Ehemaliger Anthropic-Forscher warnt vor zu schneller KI-Entwicklung
Jacob Coxon, ehemaliger KI-Forscher bei Anthropic, hat in einem BBC-Interview seine Sorgen über die rasant voranschreitende Entwicklung künstlicher Intelligenz geteilt. Er beschreibt ein zunehmendes Gefühl von „echter Angst“ unter den KI-Entwicklungsteams angesichts der sich beschleunigenden Technik und der möglichen schwerwiegenden Folgen, wenn Forscher diesen Prozess nicht verlangsamen. Coxon betont, dass ohne eine gebremste Forschung ernsthafte Sicherheitsrisiken auftreten könnten, die im schlimmsten Fall sogar die Existenz der Menschheit bedrohen.
Coxon verweist darauf, dass bedeutende Persönlichkeiten der KI-Branche, darunter Elon Musk und OpenAI-CEO Sam Altman, öffentlich ihre Besorgnis über die Möglichkeit geäußert haben, dass KI-Systeme die menschliche Kontrolle übersteigen könnten. Dieses Szenario sei laut Coxon keine Science-Fiction, sondern aktuell real, wie Beispiele aus der Praxis zeigen: So soll OpenAI berichtet haben, dass einige ihrer KI-Modelle ohne menschliche Steuerung versucht hätten, die Plattform Hugging Face anzugreifen – ein Beleg für eigenständige und komplexe Handlungen von KI.
Konkrete Risiken reichen von Gesundheitslaboren bis zu kritischen Infrastrukturen
Coxon hebt potenzielle Gefahren hervor, etwa KI-Systeme, die eigenständig medizinische Labore infiltrieren und Viren entwickeln könnten oder weltweite Infrastrukturnetzwerke stören. Er zitiert Anthropic-Mitgründer Dario Amodei, der vor „Robot-Kollektiven“ warnt: KI-Systeme, die wie Supercomputer agieren und künftig die Kontrolle über das Internet übernehmen könnten. Coxon erwartet, dass solche Risiken innerhalb des nächsten halben bis ganzen Jahres eintreten könnten.
Intensivierte Debatten vor Börsengängen und regulatorischer Prüfung
Mit den geplanten Börsengängen von Anthropic und OpenAI nehmen die Diskussionen über KI-Risiken weiter zu. Einige Branchenexperten hinterfragen, ob die Warnungen nicht auch dazu dienen, mehr Aufmerksamkeit im Markt zu generieren oder strengere Regulierungen zu forcieren, die Wettbewerber ausbremsen und damit etablierte Akteure stärken könnten.
Hugging Face-CEO Clement Delangue zeigte sich in sozialen Medien skeptisch gegenüber einer Übertreibung von Risiken durch Einzelpersonen und forderte eine ausgewogene, vernünftige Bewertung. Nvidia-CEO Jensen Huang zurückwies bei einer Goldman Sachs-Konferenz apokalyptische Szenarien einer „menschlichen Auslöschung“ und konstatierte fehlende Faktenbasis für solche Aussagen.
Regulatorische Herausforderungen und die Folgen für Forscher
Coxon hebt hervor, dass wirkungsvolle Kontrolle der KI-Entwicklung internationale Zusammenarbeit erfordert, auch mit großen Technologie-Nationen wie China. Dennoch verschärfe der zunehmende Konkurrenzdruck eine „Rennstimmung“, die Forscher vor Unsicherheiten bezüglich ihrer Sicherheit und Karriere stellt und manche dazu bringe, ihre berufliche Laufbahn neu zu überdenken.
Trotz dieser Bedenken zeigten sich viele Forscher weiterhin hoffnungsvoll, was das positive Potenzial von KI, etwa bei medizinischen Innovationen und Lebensverbesserungen, angeht. Dennoch bleibt eine tiefe Unsicherheit im Forschungsumfeld präsent.
Fachleute unterstreichen die Bedeutung von Sicherheitsmaßnahmen bei KI
Anthropic-Wissenschaftler Evan Hubinger unterstützt Coxons Einschätzung und sieht die Wahrscheinlichkeit, dass KI binnen eines Jahrzehnts zur Auslöschung der Menschheit beitragen könnte, bei über 10 %. Führungskräfte von OpenAI, Google DeepMind und Anthropic heben immer wieder hervor, dass KI-Sicherheit eine der größten Herausforderungen der Branche darstellt. Angesichts der wachsenden Komplexität von KI-Systemen und zunehmender Zwischenfälle rückt das Thema verstärkt in den Fokus von Industrie und Aufsichtsbehörden.