Haben Sie schon einmal erlebt, dass Ihr KI-Assistent völlig abwegige Antworten gab, obwohl Sie eine ganz klare Frage gestellt hatten? Es ist frustrierend, wenn man denkt: „Das habe ich doch gar nicht gefragt! Warum kommt jetzt so ein Unsinn?“ Genau dieses Phänomen nennen wir KI-Halluzinationen. Und wenn Sie Ihre KI-Modelle konfigurieren, um Geschäftsprozesse zu optimieren – sei es für die Kundenkommunikation, das Verfassen von E-Mails oder die Automatisierung von Abläufen – können solche willkürlich erfundenen Antworten den gesamten Workflow stören und unhaltbar machen.
Die gute Nachricht ist: Sie können das Verhalten Ihres KI-Assistenten aktiv beeinflussen. Mit den richtigen KI-Einstellungen verstehen und anpassen, sorgen Sie dafür, dass Ihr System jedes Mal zuverlässigere, fokussiertere und markengerechtere Ergebnisse liefert. So lassen sich Ihre KI-Assistenten optimieren und unerwünschte Ausgaben gezielt steuern.
Was KI-Halluzinationen sind und warum sie Geschäftsprozesse stören
KI-Halluzinationen sind, wie wir gesehen haben, irrelevante oder falsche Antworten von KI-Systemen. Sie untergraben die Glaubwürdigkeit und können ernsthafte Probleme verursachen, besonders wenn die KI in kritischen Geschäftsbereichen eingesetzt wird. Stellen Sie sich vor, ein Chatbot gibt einem Kunden falsche Produktinformationen oder eine automatisierte E-Mail enthält nonsens-artige Passagen. Das kostet nicht nur Zeit und Geld, sondern auch Vertrauen.
Einstellungen für Struktur und Länge der KI-Ausgabe
Um die Zuverlässigkeit und Relevanz der KI-Antworten zu maximieren, sind bestimmte Einstellungen entscheidend. Es geht darum, die KI-Ausgabe steuern zu können – ihre Länge und ihr Format präzise vorzugeben.
Der Wiederholungsfilter beispielsweise verhindert, dass der KI-Assistent immer wieder dieselben Wörter oder Phrasen verwendet. Wenn Sie diesen Wert niedrig einstellen (z.B. 0.0), eignet er sich gut für Aufgaben, bei denen Wiederholungen natürlich sind, wie bei der Generierung von JSON-Code. Ein höherer Wert (z.B. 1.0) hingegen erhöht die Vielfalt der Antworten und verhindert, dass die Ausgabe „robotisch“ oder „spam-artig“ wirkt. Ein Support-Bot, der ständig fragt: „Wie kann ich Ihnen helfen?“, profitiert von einem höheren Wert, um natürlichere, menschlichere Antworten zu liefern.
Die maximale Token-Anzahl kontrolliert, wie lang eine Antwort sein darf. Ein Token entspricht etwa drei Vierteln eines Wortes. Für längere E-Mails benötigen Sie mehr Tokens, während für kurze Tweets weniger ausreichen. Der Standardwert von -1 erlaubt dem Modell, seine maximale Länge auszuschöpfen, was Tausende von Tokens sein können. Wünschen Sie jedoch vorhersehbare Längen, setzen Sie einen spezifischen Wert:
* 50 bis 100 Tokens für kurze Antworten oder Überschriften.
* 300 bis 600 Tokens für Zusammenfassungen, Produktbeschreibungen oder vollständige E-Mails.
So stellen Sie sicher, dass Ihre KI eine vollständige und nützliche Ausgabe liefert, ohne Sätze mitten im Text abzubrechen. Bei der Erstellung von Immobilienanzeigen oder wöchentlichen Newslettern beispielsweise könnten 700 oder mehr Tokens notwendig sein.
Schließlich gibt es noch das Antwortformat (Response Format). Meistens reicht eine einfache Textausgabe. Für komplexere Automatisierungen, etwa wenn die KI mit anderen Systemen kommunizieren muss, ist oft das JSON-Format erforderlich. Wichtig dabei: Wenn Sie JSON als Format wählen, muss das Wort „JSON“ auch im Prompt erwähnt werden.
Kreativität und Vorhersagbarkeit der KI-Antworten steuern
Um die Qualität und Relevanz der KI-Antworten zu erhöhen, gibt es zwei Schlüsselparameter, die Kreativität und Vorhersagbarkeit beeinflussen.
Die Presence Penalty fördert die Ideenvielfalt. Ein Wert von 0 bedeutet, dass das Modell sich an bereits Gesagtes hält. Erhöhen Sie diesen Wert auf 1.0, neigt das Modell dazu, neue Ideen zu entwickeln. Das ist ideal, wenn Sie eine KI für Brainstorming einsetzen, die neue Marken- oder Produktnamen generieren soll, und keine Wiederholungen alter Vorschläge wünschen.
Die Sampling Temperature bestimmt, wie zufällig oder vorhersagbar die Ausgaben Ihres KI-Assistenten sind.
* Ein niedriger Wert (0.2–0.4) ist optimal für seriöse, datengesteuerte Aufgaben wie Rechtsberatung oder Dokumentengenerierung, bei denen Vorhersagbarkeit entscheidend ist.
* Ein mittlerer Wert (oft der Standard von 0.7) bietet eine gute Balance und ist ideal für allgemeine Aufgaben wie Chatbots oder E-Mail-Assistenten.
* Ein hoher Wert (0.8–1.0) ist perfekt für kreative Aufgaben wie Marketingtexte, Geschichten oder LinkedIn-Überschriften, wo Auffälligkeit und Originalität gefragt sind.
Durch einen niedrigen Temperaturwert lassen sich Halluzinationen und ungewöhnliche Formulierungen effektiv vermeiden.
Ein weiterer ähnlicher Parameter ist Top_p (Tappi), der den Bereich der Wörter eingrenzt, die die KI für ihre Antwort verwenden darf, basierend auf ihrer Wahrscheinlichkeit. Ein Wert von 1.0 bedeutet, dass alles erlaubt ist – vollständige Zufälligkeit. Ein niedrigerer Wert (0.2–0.4) führt zu vorhersagbareren und sichereren Antworten. Bei einem Assistenten für die Vertragsgestaltung sorgt ein Top_p von 0.3 für standardisierte, verlässliche juristische Formulierungen. Bei der Generierung von Social-Media-Inhalten hingegen liefert ein Wert von 0.8 oder höher kreativere und vielfältigere Ergebnisse.
Stabilität und Reaktionsfähigkeit in Live-Anwendungen
Besonders in Live-Anwendungen sind technische Einstellungen entscheidend, um die Stabilität und Reaktionsfähigkeit Ihrer KI-Systeme zu gewährleisten. Das hilft Ihnen, Ihre KI-Assistenten optimieren zu können, auch unter Last.
Der Time Out bestimmt, wie lange Ihr Assistent auf eine Antwort vom Modell wartet. Standardmäßig sind das 60.000 Millisekunden (60 Sekunden). Diese Dauer ist gut für die Generierung langer Inhalte oder langsame Prozesse. Für Chatbots oder Benutzeroberflächen, bei denen sofortige Antworten erwartet werden, sollten Sie diesen Wert auf 10.000 bis 15.000 Millisekunden (10–15 Sekunden) reduzieren, um die Wartezeit für den Nutzer zu minimieren. Ein Live-Support-Bot auf Ihrer Website sollte schnell reagieren, während ein Dokumenten-Zusammenfasser auch 60 Sekunden warten darf.
Die Max Retries-Einstellung legt fest, wie oft Ihr Assistent versucht, eine Antwort vom Modell zu erhalten, wenn der erste Versuch fehlschlägt. Werte zwischen 0 und 1 sind gut für die Entwicklungsphase, um Fehler schnell zu erkennen. Für Live-Systeme sind 2 bis 3 Wiederholungen ideal. So verhindern Sie, dass bei kurzfristigen API-Ausfällen der gesamte Workflow zusammenbricht. Wenn ein Agent Kundenanfragen bearbeitet und die API vorübergehend einen Fehler zurückgibt, sorgen 2 bis 3 Wiederholungen dafür, dass der Prozess stabil bleibt.
Eine sorgfältige Anpassung all dieser Einstellungen ist der Schlüssel, um Ihre KI-Assistenten zuverlässiger, fokussierter und markengerechter zu gestalten. Dies ist entscheidend für den Unternehmenserfolg.
Häufig gestellte Fragen
Was sind KI-Halluzinationen?
KI-Halluzinationen sind Situationen, in denen ein KI-System Antworten generiert, die irrelevant, falsch oder unsinnig sind, obwohl die gestellte Frage oder Aufgabe dies nicht rechtfertigt. Sie können Geschäftsprozesse stören und die Glaubwürdigkeit des KI-Systems beeinträchtigen.
Wie kann ich die Länge der KI-Ausgabe kontrollieren?
Die Länge der KI-Ausgabe wird hauptsächlich über die Einstellung der maximalen Token-Anzahl gesteuert. Indem Sie einen spezifischen Wert für die Tokens festlegen (z.B. 300-600 für E-Mails oder 50-100 für Überschriften), können Sie sicherstellen, dass die KI eine vorhersehbare und passende Textlänge generiert.
Welche Einstellungen beeinflussen die Kreativität von KI-Antworten?
Die Kreativität von KI-Antworten wird maßgeblich durch die Presence Penalty und die Sampling Temperature beeinflusst. Eine höhere Presence Penalty fördert die Generierung neuer Ideen, während eine höhere Sampling Temperature die Zufälligkeit und somit die kreative Vielfalt der Antworten erhöht. Auch der Top_p (Tappi)-Wert kann die Wortwahl und damit die Kreativität steuern.
