Die Funktion „AI Overviews“ von Google generiert Millionen fehlerhafter Antworten pro Stunde

Im Jahr 2024 hat die Google LLC eine neue Funktion mit dem Namen „AI Overviews“ (AI-Übersichten) ins Leben gerufen, die darauf abzielt, Antworten, die von künstlicher Intelligenz generiert werden, an die Spitze der Suchergebnisse zu platzieren. Diese Innovation hat die Rolle von Google von einem Informationskurator zu einem Publisher verändert, was Bedenken hinsichtlich der Genauigkeit der bereitgestellten Daten aufgeworfen hat.

Eine aktuelle Analyse, die von dem Start-up Oumi in Zusammenarbeit mit der New York Times durchgeführt wurde, hat ergeben, dass die Genauigkeit der von der Funktion „AI Overviews“ gelieferten Antworten bei etwa neun von zehn Fällen liegt. Angesichts der Tatsache, dass Google jährlich über fünf Billionen Suchanfragen verarbeitet, bedeutet dies, dass Millionen fehlerhafte Antworten jede Stunde generiert werden, was Hunderte von Tausenden von Ungenauigkeiten pro Minute entspricht.

Die Untersuchung hat zudem gezeigt, dass mehr als die Hälfte der als genau erachteten Antworten „unbegründet“ waren, da sie auf Webseiten verwiesen, die die bereitgestellten Informationen nicht vollständig bestätigten. Dies wirft ernsthafte Fragen zur Zuverlässigkeit der Daten auf, die Nutzer über diese Funktion erhalten.

Auf Anfrage der New York Times führte Oumi eine Analyse der Genauigkeit der Antworten von AI Overviews durch, indem ein Test namens SimpleQA verwendet wurde, der in der Branche allgemein anerkannt ist, um die Genauigkeit von KI-basierten Systemen zu messen. Das Start-up testete das Google-System im Oktober, als die schwierigsten Fragen mit einer KI namens Gemini 2 beantwortet wurden, und wiederholte den Test im Februar nach einem Update auf die leistungsstärkere Technologie Gemini 3.

In beiden Fällen konzentrierte sich Oumi auf 4.326 Google-Suchanfragen. Die Überprüfungsergebnisse zeigten, dass die Genauigkeit der Antworten 85 % für Gemini 2 und 91 % für Gemini 3 betrug. Dies deutet auf einen gewissen Fortschritt in der Entwicklung der Technologie hin, jedoch bleibt ein erheblicher Anteil an Fehlern bestehen.

Google selbst erkennt an, dass die Funktion „AI Overviews“ fehlerhaft sein kann. In kleiner Schrift unter jedem AI-Überblick steht: „Künstliche Intelligenz kann Fehler machen, daher sollten Sie die Antworten erneut überprüfen.“ Diese Erinnerung unterstreicht die Notwendigkeit eines kritischen Ansatzes gegenüber den erhaltenen Informationen.

Dennoch haben Vertreter von Google darauf hingewiesen, dass die Analyse von Oumi fehlerhaft war, da sie sich auf einen Benchmark-Test stützte, der von OpenAI erstellt wurde und selbst falsche Informationen enthielt. Dies hat Diskussionen darüber ausgelöst, wie zuverlässig die Methoden zur Bewertung der Genauigkeit von Künstlicher Intelligenz sind.

Pratik Verma, CEO von Okahu, einem Unternehmen, das sich darauf spezialisiert hat, Menschen dabei zu helfen, Technologien der künstlichen Intelligenz zu verstehen und zu nutzen, ist der Meinung, dass die Genauigkeit der Google-Technologie etwa derjenigen anderer führender KI-Systeme entspricht. Er forderte die Nutzer ebenfalls auf, die erhaltenen Informationen zu überprüfen, um Fehler zu vermeiden.

Es sei daran erinnert, dass das amerikanische Unternehmen Google zuvor eine neue KI-basierte Funktion für Elektrofahrzeuge in Google Maps eingeführt hat. Dieser Schritt zeigt die kontinuierliche Entwicklung von KI-Technologien in verschiedenen Bereichen, jedoch ist es wichtig, sich der Risiken bewusst zu sein, die mit ihrer Nutzung verbunden sind.

Folgen Sie unseren Kanälen auf Telegram, Instagram und YouTube, um über die neuesten Nachrichten und Ereignisse in der Welt der Technologie informiert zu bleiben.