Der KI-Chatbot von Perplexity: Warum das Wired Magazine ihn eine „BS-Maschine“ nennt

Als erfahrener Krypto-Investor mit fundiertem Hintergrund in Technologie und Informationsgenauigkeit finde ich die Situation rund um Perplexity äußerst besorgniserregend. Die Vorwürfe ungenauer Antworten, unklarer Mechanismen und ethischer Bedenken in Bezug auf Data Scraping sind Warnsignale, die sowohl von der Tech-Community als auch von Investoren Aufmerksamkeit erfordern.


Am 21. Juni 2024 trat ich als Forscher zusammen mit Katie Drummond, der globalen Redaktionsleiterin von Wired, als Gast in der „Squawk Box“ von CNBC auf. Während unseres Gesprächs vertieften wir uns in die Feinheiten von Perplexity, einem KI-Such-Startup, das kürzlich Gegenstand einer eingehenden Untersuchung des Wired-Magazins war. Die Diskussion brachte mehrere besorgniserregende Aspekte der Geschäftstätigkeit von Perplexity ans Licht und löste lebhafte Debatten über die Auswirkungen künstlicher Intelligenz auf den Journalismus und die Genauigkeit von Informationen aus.

Der Aufstieg der Ratlosigkeit

Bei den jüngsten technischen Entwicklungen hat sich Perplexity zu einem bedeutenden Akteur entwickelt, der erhebliche Investitionen von Branchenführern wie Jeff Bezos anzieht und einen Wert von nahezu einer Milliarde Dollar vorweisen kann. Trotz dieses beeindruckenden Wachstums wurde Perplexity genau unter die Lupe genommen und kontrovers diskutiert. Um seine Rolle und Abläufe zu klären, führte Wired eine eingehende Untersuchung durch und untersuchte die Fähigkeiten von Perplexity, seine Funktionsweise und die Zuverlässigkeit seiner Suchergebnisse.

Untersuchungsergebnisse: Unklare Mechanismen und ungenaue Antworten

Während ihrer Recherche für Wired machte Drummond auf die Unsicherheit hinsichtlich der Funktionsweise der Perplexity-Technologie aufmerksam. Sie behauptet, dass dieses KI-Unternehmen, das für seine fortschrittlichen Suchfunktionen bekannt ist, häufig ungenaue und möglicherweise irreführende Ergebnisse liefert. Benutzer haben sich über Antworten beschwert, denen es an Kohärenz mangelt und die sich stark auf die oberflächliche Webdatenerfassung ohne weitere Prüfung oder Verständnis verlassen.

Ethische und rechtliche Bedenken: Scraping und Datenerfassung

Als Krypto-Investor, der die Entwicklungen rund um Perplexity aufmerksam verfolgt, war ich von den Untersuchungsergebnissen fasziniert, die zu den Datenerfassungsmethoden von Perplexity ans Licht kamen. Berichten zufolge konzentrierte sich ein wesentlicher Teil ihrer Untersuchung darauf, wie Perplexity an seine Daten gelangt.

Vorurteile und die Qualität von KI-Antworten

Als Forscher, der sich mit KI-Tools wie Perplexity beschäftigt, kann ich nicht genug betonen, wie wichtig es ist, die inhärenten Vorurteile und die Qualität der von ihnen bereitgestellten Informationen anzuerkennen. Das Prinzip „Müll rein, Müll raus“ ist ein entscheidendes Konzept, das es zu beachten gilt. Es bedeutet einfach, dass die Ausgabe eines KI-Modells nur so genau ist wie die Daten, die es liefert. Perplexity beispielsweise stützt sich stark auf Webdaten, die leider manchmal voreingenommen oder ungenau sein können. Folglich könnten seine Antworten dieselben Probleme widerspiegeln.

Als Analyst würde ich es so ausdrücken: Drummond betonte, wie wichtig es sei, sich direkt an zuverlässige journalistische Quellen zu wenden, um präzise Informationen zu erhalten, anstatt sich auf KI-generierte Zusammenfassungen zu verlassen. Dies unterstreicht eine erhebliche Hürde bei der Entwicklung von KI-Systemen – die Unterscheidung und Priorisierung vertrauenswürdiger, sachlicher Daten aus dem riesigen Pool fragwürdiger, online zugänglicher Quellen.

Die Kluft zwischen Technologie und Journalismus

Die Diskussion wagte sich an die weitreichenden Auswirkungen von KI auf den Journalismus. Drummond betonte, dass der Technologiesektor tendenziell unabhängig von dem moralischen Kompass operiere, der Nachrichten und Berichterstattung leite. Sie äußert ihre Besorgnis darüber, dass das Streben nach innovativen und lukrativen KI-Lösungen unbeabsichtigt die Verbreitung wahrheitsgemäßer und ethischer Informationen gefährden kann.

Als Reaktion auf die Vorwürfe von Wired stellte Perplexity-Gründer und CEO Aravind Srinivas in einem Artikel für Fast Company klar, dass Perplexity bei der Datenerfassung nicht ausschließlich auf seine eigenen Webcrawler angewiesen sei. Stattdessen nutzen sie auch Dienste von Drittanbietern für das Web-Crawling und die Indexierung. Srinivas erklärte, dass der von Wired identifizierte spezifische Webcrawler nicht Perplexity gehörte, sondern aufgrund einer Vertraulichkeitsvereinbarung einem nicht genannten externen Anbieter gehörte.

Srinivas räumte ein, wie kompliziert es sei, einen Drittanbieter-Crawler am Zugriff auf die Inhalte von Wired zu hindern, und drückte aus: „Das ist nicht einfach.“ Er wies auch darauf hin, dass das 1994 eingeführte Robots Exclusion Protocol keine Rechtsverbindlichkeit habe, und schlug vor, dass der zunehmende Einsatz von KI eine neue Form der Partnerschaft zwischen Inhaltsproduzenten und Plattformen wie Perplexity erfordere.

Als Forscher, der die Antwortmaschine von Perplexity untersucht, bin ich auf Kritik von Wired bezüglich der ungenauen Umschreibung ihrer Artikel gestoßen. In einem Fall ging es um eine falsche Behauptung, ein kalifornischer Polizist habe ein Verbrechen begangen. Srinivas erklärte, dass diese Ergebnisse möglicherweise auf absichtlich provokative Aufforderungen zurückzuführen seien, und versicherte, dass typische Benutzer nicht mit diesen Problemen konfrontiert würden. Allerdings räumte er ein, dass das System nicht fehlerfrei sei.

Weiterlesen

2024-06-22 09:17