Anthropic ist derzeit der Liebling der KI-Investoren. Google und andere Parteien haben bereits mehr als 1 Milliarde Dollar in das Unternehmen investiert, und das geht weiter Die New York Times wird als „eines der weltweit führenden KI-Labore“ bezeichnet. Das war erst der Anfang: Amazon kündigte an, nicht weniger als 4 Milliarden in Anthropic zu investieren.
Die beiden Unternehmen werden zudem eng zusammenarbeiten. Es erinnert an Microsoft und OpenAI, den Hersteller von DALL-E und ChatGPT. Diese enge Zusammenarbeit begann im Jahr 2019, als Microsoft 1 Milliarde US-Dollar in OpenAI investierte, gefolgt von weiteren 10 Milliarden US-Dollar in diesem Jahr.
Über den Autor
Laurens Verhagen verschreibt de Volkskrant über Technologie, Internet und künstliche Intelligenz. Zuvor war er unter anderem Chefredakteur von nu.nl.
Die Menschheit meistern
Anthropic ist viel kleiner als sein Konkurrent, von dem es auch stammt. Das Unternehmen wurde Anfang 2021 von einer Reihe von OpenAI-Mitarbeitern gegründet, die über die Richtung besorgt waren, insbesondere über die mangelnde Aufmerksamkeit für den sicheren und verantwortungsvollen Einsatz von KI. Sie befürchten, dass fortschrittliche Chatbots wie ChatGPT von böswilligen Parteien missbraucht werden. Mittlerweile sind die Warnungen bekannt, etwa der Einsatz von Chatbots für Phishing-E-Mails.
Zu den Abgängen zählen OpenAI-Forschungschef Dario Amodei (heute CEO von Anthropic) und seine Schwester Daniela.
Es gibt auch viele Gemeinsamkeiten zwischen den beiden Unternehmen. Viele Mitarbeiter des in San Francisco ansässigen Unternehmens glauben fest an das Aufkommen von AGI (künstliche allgemeine Intelligenz). Dabei handelt es sich um die umstrittene Vorstellung, dass ein KI-Modell irgendwann in allen Bereichen der Boss der Menschheit sein wird.
Das ist noch nicht der Fall. Zwar schneidet die KI in immer spezifischeren Bereichen besser ab als der Mensch, aber nicht in allen Bereichen. Doch dieser Moment rückt rasch näher, meinen die Optimisten. Eine weitere Ähnlichkeit: Amodei lässt sich wie Sam Altman von OpenAI nicht von Einschränkungen leiten.
Tiefe existenzielle Ebene
Dazu wurde der CEO kürzlich im Rahmen einer Podiumsdiskussion befragt die Grenzen großer Sprachmodelledie Chatbots wie ChatGPT oder Anthropics besitzen Claude fahren. Die Fortschritte waren in letzter Zeit erheblich, insbesondere da sie immer größer werden. Im Gegensatz zu Kritikern ist Amodei davon überzeugt, dass diesen Modellen keine Grenzen gesetzt sind: „Im letzten Jahrzehnt hat der Umfang, in dem wir neuronale Netze trainieren, bemerkenswert zugenommen, und wir skalieren sie weiter, und sie funktionieren weiterhin besser.“ und besser.‘
Es ist genau der Glaube von Anthropic an AGI, der den Wunsch weckt, die Dinge anders zu machen. Anthropic-Mitarbeiter sind nicht unbedingt besorgt, dass ihre App nicht gut funktioniert. Nein: „Sie haben Angst – auf einer tiefen, existenziellen Ebene – für die ganze Idee dessen, was sie tun: leistungsstarke KI-Modelle zu bauen und sie in die Hände von Menschen zu geben, die sie für destruktive Dinge nutzen könnten“, sagte er Die New York Times.
Laut Reporter Kevin Roose, der zuvor ein bizarres Erlebnis mit dem Chatbot Bing hatte der seine Ehe zerstören wollteführt dies tatsächlich zu einem ziemlich „guten und predigenden“ Chatbot: „Jedes Mal, wenn das Programm meinen Versuchen, ihn zu Fehlverhalten zu verleiten, entgegenwirkte, gab es mir eine Lektion über meine Moral.“
Eine erste Version war bereits letztes Jahr fertig, lange bevor ChatGPT das Licht der Welt erblickte. Aus Angst vor Missbrauch entschied sich Anthropic jedoch, Claude nicht der breiten Öffentlichkeit vorzustellen. Claude kann jetzt verwendet werden, aber vorerst nur in den USA und Großbritannien.
Ebenso wie ChatGPT oder Googles Bard kann Claude auch Gedichte, Code oder Rezepte schreiben und Zusammenfassungen erstellen, allerdings ist das Risiko, aus der Bahn zu geraten, laut Angaben der Macher geringer als bei der Konkurrenz, da das Modell auf Sicherheitsprinzipien basiert.
Miguel Pieters, Gründer des Amsterdamer KI-Startups Linear Logic, verfolgt Anthropic seit einiger Zeit aufmerksam und experimentiert auch mit dem Sprachmodell von Anthropic sowie mit anderen Modellen.
Senken Sie den Fahrradsattel ab
Pieters findet das Unternehmen aufgrund seines unterschiedlichen Ansatzes interessant: „OpenAI sagt, es wolle die Menschheit mit KI verbessern, während Anthropic sich dafür einsetzt, KI zu schaffen, die der Welt nicht schadet.“ Denken Sie daran, mit seinen Chatbots Stereotypen zu bekämpfen oder Claude daran zu hindern, Anweisungen für illegale Dinge zu geben, wie zum Beispiel den Bau einer Bombe.“ Jedes KI-Unternehmen spricht mittlerweile von verantwortungsvoller KI, aber laut Pieters ist Anthropic in diesem Punkt wirklich führend.
Andererseits ist OpenAI derzeit deutlich finanzkräftiger und kann sich daher schneller entwickeln. Diese Woche kündigte OpenAI neue Funktionen von ChatGPT an. Bald soll der Chatbot auch per Sprache kommunizieren und Ratschläge auf Basis von Bildern geben können. Das Beispiel, das OpenAI selbst nennt: Jemand, der den Sattel seines Fahrrads absenken möchte, aber nicht weiß wie. ChatGPT verrät Ihnen anhand von Bildern, welche Tools dafür benötigt werden.
Wenn Anthropic mitmachen will, werden die Milliarden von Amazon dringend benötigt, sagt Pieters. „Einige werden sagen, dass sie jetzt im Einklang mit Big Tech sind, aber sie haben keine andere Wahl.“ Wenn sie das Geld nicht nehmen, werden sie hinter Google, Meta oder OpenAI zurückbleiben.“