Sprachmodelle sind keine Weltmodelle. Sie kennen “nur” Wortkorrelationen und können daher halluzinieren. D.h., sie können Text generieren, der plausibel und verlässlich wirkt, aber tatsächlich völliger Quatsch ist. Prüfen Sie alle generierten Inhalte auf Validität. Entsprechen sie den Tatsachen/Fakten?
Insbesondere rechtliche Fragen (z.B. Urheberrecht) bezüglich generativer KI sind noch nicht geklärt.
Wie bei allen Web Services sollten keine vertraulichen Daten oder gar Firmeninterna eingegeben werden. Hier sollten alle Mitarbeitenden sensibilisiert werden! Eine attraktive Option zur Absicherung der Daten bietet OpenAI mit der Corporate-Lösung inkl. eigenem Datenraum.
