KI außer Kontrolle - Wie gefährlich ist Künstliche Intelligenz wirklich?

Die Diskussion um die Gefahren Künstlicher Intelligenz spitzt sich zu. Führende Forscher warnen vor drohendem Kontrollverlust und der Auslöschung der Menschheit. Muss man das ernst nehmen? Und wenn ja, was folgt daraus? Ralf Krauter und Moritz Metz analysieren die Lage und sprechen über Risiken und Perspektiven der KI-Entwicklung.


Das erwartet Euch in dieser Folge:

(01:03) Das Ende am Anfang
(01:52) Ein viraler Tweet und seine Folgen
(14:18) Dario Amodeis Appell, die KI-Entwicklung zu entschleunigen
(15:07) Mögliche Motive des Anthropic-Chefs
(21:11) Wie sinnvoll (und realistisch) sind die vorgeschlagenen Maßnahmen?
(27:34) Rekursive Selbstoptimierung als Weg zur Künstlichen Superintelligenz
(30:57) Was jetzt nötig wäre, um KI-Systeme zu zähmen


Unsere Gesprächspartnerin in dieser Folge:

• Ida Caspary, Doktorandin am Imperial College London, die derzeit am Constellation Research Center in Berkeley forscht

Mehr zum Thema in der Deutschlandfunk-App:

• KI aus China - Wie Kimi, Qwen und Co. die KI-Branche verändern
• KI als Sicherheitsrisiko - Wie sich Chatbots mit "Jailbreaks" entfesseln lassen
• Exportverbot für KI - Anthropic sperrt Zugang zu Top-KI-Modell "Fable"

Weiterführende Links:

• CNN-Interview mit Jacob Coxon (engl.): KI könnte uns alle töten
• Blog-Artikel (engl.) von Anthropic-Chef Dario Amodei: Wir müssen die Entwicklung entschleunigen
• Blog-Artikel des Zentrums für Digitalrechte und Demokratie:
• Forschergruppe "AI Futures Project": Szenario "AI 2040" (engl.)
• Artikel im Wall Street Journal (engl.): Im Weißen Haus wird um Trumps KI-Kurs gerungen

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected].

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App. Folgt dem Deutschlandfunk auch auf Instagram oder Facebook.