ChatGPT in die eigene Software einbauen: Was es kostet und wo es hakt, Sternisic

Wo es sich lohnt

Am meisten bringt KI dort, wo heute jemand Texte von Hand schreibt oder Daten abtippt, obwohl die Informationen eigentlich schon da sind. Ein paar Beispiele aus meiner Arbeit:

Titel, Beschreibungen und Kapitelmarken für Videos, die beim Hochladen entstehen statt später von Hand.
Text aus Bildern und Scans auslesen und durchsuchbar machen.
Lange Anfragen zusammenfassen, damit man auf einen Blick sieht, worum es geht.

Grobe Faustregel, kein Gesetz.
Aufgabe	Passt KI?	Warum
Texte vorschlagen	Ja	Leicht zu prüfen, spart viel Tipparbeit
Daten aus Dokumenten lesen	Meistens	Gut, wenn die Dokumente ähnlich aufgebaut sind
Anfragen zusammenfassen	Ja	Schneller Überblick, das Original bleibt da
Preise oder Rechnungen berechnen	Nein	Dafür gibt es exakten Code

Struktur statt Freitext

Der häufigste Fehler: Man lässt das Modell einfach antworten und versucht dann, den Text irgendwie weiterzuverarbeiten. Das klappt in der Demo und bricht im Alltag. Besser ist es, eine feste Struktur vorzugeben. Die Schnittstelle von OpenAI kann Antworten so liefern, dass sie zu einem vorher festgelegten JSON-Schema passen.

{
  "type": "object",
  "properties": {
    "title":       { "type": "string" },
    "description": { "type": "string" },
    "chapters": {
      "type": "array",
      "items": {
        "type": "object",
        "properties": {
          "start": { "type": "string" },
          "label": { "type": "string" }
        },
        "required": ["start", "label"],
        "additionalProperties": false
      }
    }
  },
  "required": ["title", "description", "chapters"],
  "additionalProperties": false
}

Vereinfachtes Schema für Video-Metadaten

So weiß deine Software immer, wo der Titel steht und wo die Kapitel. Und wenn etwas nicht passt, fällt es sofort auf, nicht erst beim Kunden.

Was es kostet

Abgerechnet wird nach Menge: Du zahlst für den Text, der hineingeht, und für den, der herauskommt. Eine einzelne Anfrage kostet meist nur wenige Cent, oft deutlich weniger. Bei tausenden am Tag wird es spürbar. Die Preise ändern sich häufig, deshalb rechne ich in jedem Projekt mit den aktuellen Zahlen und deinen echten Mengen.

Dazu kommt der Aufwand für Einbau, Tests und Pflege. Der ist am Anfang fast immer größer als die laufenden Kosten.

Datenschutz

Alles, was du an die Schnittstelle schickst, verlässt deinen Server. Kläre deshalb vorher, welche Daten wirklich nötig sind. Personenbezogene Daten gehören nur mit einem Vertrag zur Auftragsverarbeitung und einer passenden Rechtsgrundlage hinein. Oft geht es ganz ohne: Für einen Videotitel braucht die KI keine Kundennamen.

Das ersetzt keine Rechtsberatung.

Wo es hakt

Sie klingt sicher, auch wenn sie falsch liegt. Deshalb bleibt ein Mensch in der Schleife.
Gleiche Eingabe, andere Antwort. Wer verlässliche Ergebnisse braucht, baut Vorgaben und Tests entsprechend.
Modelle ändern sich. Was heute gut funktioniert, sollte nach einem Modellwechsel neu geprüft werden.

Die KI macht einen Vorschlag. Ein Mensch entscheidet.

Mein Fazit

Fang mit einer Aufgabe an, die oft vorkommt, nervt und leicht zu prüfen ist. Wenn das funktioniert, kommt die nächste. So wird aus KI kein Experiment, sondern ein Werkzeug, das jeden Tag Zeit spart.