Tool-Aufruf
Tool Calling, oft auch als Function Calling bezeichnet, ist eine Fähigkeit innerhalb großer Sprachmodelle (LLMs), die es dem Modell ermöglicht zu bestimmen, wann und wie externe Funktionen oder APIs aufgerufen werden sollen, um eine Benutzeranfrage zu erfüllen. Anstatt eine direkte Antwort zu generieren, gibt das Modell eine strukturierte Anforderung aus, die angibt, welches Werkzeug zu verwenden und welche Argumente ihm übergeben werden sollen.
LLMs sind von Natur aus hervorragend im Sprachverständnis, aber sie sind inhärent durch ihre Trainingsdaten begrenzt. Sie können keinen Zugriff auf Echtzeitinformationen erhalten, Code ausführen oder mit proprietären Geschäftssystemen interagieren. Tool Calling schließt diese Lücke und verwandelt einen passiven Sprachgenerator in einen aktiven Agenten, der in der realen Welt Aktionen ausführen kann.
Der Prozess umfasst drei Hauptschritte. Zuerst stellt der Entwickler dem LLM ein Schema zur Verfügung – eine Beschreibung der verfügbaren Werkzeuge, einschließlich deren Namen, Beschreibungen und erforderlicher Parameter. Zweitens analysiert das LLM, wenn eine Benutzeranfrage eingeht, diese anhand der bereitgestellten Werkzeugdefinitionen und entscheidet, ob ein Werkzeug notwendig ist. Falls ja, gibt es ein strukturiertes JSON-Objekt zurück, das den Funktionsaufruf detailliert beschreibt. Drittens fängt das Anwendungs-Framework diesen Aufruf ab, führt die eigentliche externe Funktion aus (z. B. aufruft eine Wetter-API) und speist das Ergebnis zurück an das LLM, damit dieses es für die endgültige Synthese in eine natürliche Sprachantwort für den Benutzer verwendet.
Tool Calling ermöglicht leistungsstarke, praktische Anwendungen in verschiedenen Branchen. Dazu gehören die Abfrage von Echtzeitdaten (Prüfen von Aktienkursen oder Wetter), die Automatisierung komplexer Arbeitsabläufe (Buchung von Terminen oder Bearbeitung von Bestellungen) und die Systeminteraktion (Senden von E-Mails oder Aktualisieren von CRM-Datensätzen).
Die Hauptvorteile sind verbesserte Genauigkeit, Fundierung und Fähigkeiten. Durch die Nutzung externer, autoritativer Quellen reduziert die KI Halluzinationen. Darüber hinaus ermöglicht es der KI, innerhalb der Einschränkungen und der Logik bestehender Unternehmenssysteme zu arbeiten und damit über einfache Konversationsaufgaben hinauszugehen.
Die Implementierung eines robusten Tool Callings erfordert sorgfältiges Design. Zu den Herausforderungen gehören die Verwaltung der API-Latenz, die Sicherstellung der sicheren Handhabung sensibler Parameter, die an Werkzeuge übergeben werden, und das Entwerfen klarer, eindeutiger Werkzeugschemata, damit das LLM die Absicht korrekt interpretiert.
Diese Fähigkeit steht in enger Beziehung zu KI-Agenten, die autonome Systeme sind, die auf LLMs aufgebaut sind und Tool Calling nutzen, um mehrstufige Ziele zu erreichen. Sie überschneidet sich auch mit Retrieval-Augmented Generation (RAG), wobei RAG sich auf das Abrufen von Dokumenten konzentriert, während Tool Calling sich auf die Ausführung von Aktionen konzentriert.
