ChatGPT-Eingabeaufforderungen erschienen offenbar in der Google Search Console

Tech-Analysten haben in der Google Search Console einer Website Einträge entdeckt, die ChatGPT-Eingabeaufforderungen sehr ähneln. Offenbar leitet OpenAI diese ungeschützt an die Google-Suche weiter. Der KI-Hersteller bestätigte das Problem nicht direkt, gab jedoch an, dass ein entsprechender „Bug“ inzwischen behoben sei.

Das Problem wurde von den beiden Technologieberatern Jason Packer und Slobodan Manić entdeckt und Packer hat letzten Monat in einem Blogbeitrag darüber informiert. Packer hatte die Einträge in der Google Search Console (GSC) einer Website untersucht. Hier werden den Seitenbetreibern Google-Suchanfragen angezeigt, bei denen die eigene Seite in den Ergebnissen auftauchte. Bei Packer bestanden diese Einträge nicht wie üblich aus wenigen Wörtern, sondern waren kleine Texte. Und es waren solche, die sehr an LLM-Eingabeaufforderungen erinnerten. Insgesamt zählte er 200 solcher Einträge, teilweise mit sehr persönlichem Inhalt. Auffällig ist, dass jeder am Anfang eine ChatGPT-URL hatte.

OpenAI: „Vorübergehender Fehler“

Darüber hinaus entdeckten sie nach einer genaueren Suche einen Fehler in einem Eingabefeld für ChatGPT-Eingabeaufforderungen, der offenbar dazu führte, dass das Modell auch eine Websuche für jede Eingabeaufforderung durchführte und am Anfang der Eingabeaufforderung eine ChatGPT-URL hinzufügte. Hier hat ChatGPT wohl auch auf Google zurückgegriffen, allerdings nicht über eine API oder eine private Verbindung – sonst würden die Eingabeaufforderungen nicht im GSC erscheinen, erklärt der Autor. Die Eingabeaufforderungen können im GSC von jeder Website aus angezeigt werden, die der Suchalgorithmus von Google für die ChatGPT-URL als relevant erachtet. In seinem Artikel weist Packer darauf hin, dass auf diese Weise verarbeitete ChatGPT-Eingabeaufforderungen definitiv nicht privat sind – sie würden bei Google, in den GSCs verschiedener Website-Betreiber und möglicherweise auch an einer Stelle landen, die die Google-Suchen nach ChatGPT-Eingabeaufforderungen abwickelt.

Gegenüber der Nachrichtenagentur Ars Technica wollte OpenAI dies nicht bestätigen, gab aber an, sich der Problematik mit dem GSC bewusst zu sein. OpenAI sprach außerdem davon, einen Fehler behoben zu haben, der „vorübergehend“ sei und „eine sehr kleine Anzahl von Suchanfragen betraf“ und die Umleitung von Suchanfragen beeinträchtige. Laut OpenAI-Erklärung geht Packer davon aus, dass der Fehler in der ChatGPT-Schicht bestand, die für die Umwandlung von Eingabeaufforderungen in Suchanfragen verantwortlich ist. Anstatt wie vorgesehen eine Eingabeaufforderung in wenige relevante Suchbegriffe zu zerlegen, wurde einfach die gesamte Eingabeaufforderung für die Suchanfrage verwendet.

Packer: Starke Beweise

Packer stützt die Theorie, dass es sich tatsächlich um ChatGPT-Eingabeaufforderungen handelt, auf frühere Berichte, dass OpenAI Google-Suchanfragen eliminiert. Als weitere starke Anhaltspunkte sieht er den Inhalt der GSC-Einträge selbst und die Tatsache, dass am Anfang immer eine ChatGPT-URL steht. Von hundertprozentiger Sicherheit will er aber auch nicht reden.

Dies ist nicht das erste Mal, dass ChatGPT-Eingabeaufforderungen, die als privat galten, öffentlich werden. Im Sommer machte eine missverstandene Funktion sehr private Chats öffentlich auffindbar – im Zweifel auch mit Namen.

(NEIN)