Was wir KI nennen ist genausoweit von einem autonomen Bewusstsein entfernt wie "Elisa" von einem menschlichen Psychologen, nicht mal intelligent sind die aktuellen Systeme nach irgendeiner Definition die es wert ist.
KIs sind einfach selbstlernende, selbstoptimierende Blackboxen, die fachidiotisch durch ausprobieren bei einer gegebenen Aufgabenstellung selbst optimierte Loesungsmuster entwickeln koennen - manche davon fuer uns ueberraschend, weil nicht menschlichen Denkmustern folgend. Das ist aber immer noch keine Intelligenz, schon gar keine die uns gerne wegputzen will oder uns als Gefahr sieht. Das ist Trial and Error mit ein paar Instruktionen dazu, insbesondere einer Schablone die der KI mitteilt was denn eigentlich gewünscht ist.
Die Gefahr liegt ganz wo anders: Wenn eine solche trainierte Fachidiotenbox scheinbar das liefert was sie soll, man aber den ganzen Entscheidungsprozess nicht mehr nachvollziehen kann (im Gegensatz z.B. zu einem Programm), dann wird das lebensgefaehrlich wenn man diese Boxen auf kritische Infrastruktur loslaesst.
Ich bin sicher, dass KI sehr schnell nach irgendeinem technischen Durchbruch in den naechsten 20 Jahren die Weltwirtschaft crashen wird, weil gierige Vollidioten beim technischen aufruesten gedacht haben dass das der heissetste Scheiss fuer get rich quick an der Boerse ist. Das wird auch kurz funktionieren, und dann wird alles crashen, weil die gegebenen Regulierungen und Beschraenkungen umgangen werden von den Boxen.
Was ich auch fuer wahrscheinlich halte: KIs fuer Qualitaetstests sind nichts anderes als Hacker-KIs. Auch das wird kurz sehr beliebt sein und sehr viel Schaden anrichten - in Hoechstgeschwindigkeit und komplett automatisiert.
Wenn irgendjemand so doof ist und KIs an Kraftwerke, Netze, oder gar Verteidigungssysteme haengt, dann droht uns schlimmstenfalls ein zivilisatorischer Kollaps oder ein nuklearer Holocaust.
Aber nicht weil die Teile "die Macht uebernehmen" wollen, sondern weil wir zu doof sind sie sicher einzusetzen. Und warum werden wir das sein? Weil der den groessten Vorteil aus den Teilen zieht, der sie moeglichst autonom machen laesst. In einer "Aufruestungsspirale" wird man also immer hoehere Risiken eingehen, damit die eigenen KIs mit denen irgendeines Gegners (Wirtschaft, Militaer) mithalten kann. Das wird zu immer weniger Kontrolle darueber fuehren was diese Teile genau wie und warum machen. Und fehlende Kontrolle fuehrt immer zu Exzessen und nicht intendierten Fehlern im System.
Das ist die Gefahr, im Prinzip genau das was man schon mit "Big Data" befuerchtet. Irgendwelche pickeligen Heinze denken sich in einem Google- oder Apple-Keller Algorithmen aus, mit Gesellschaftlichen Folgen, und diese werden ohne gesellschaftliche Diskussion oder Kontrolle implementiert. Das ist das totalitaere Regime der Nerds und ihrer gierigen Chefs - die damit naemlich alles Horten und kontrollieren wollen, weil es nur so in eine Verkaufsware umgemuenzt werden kann.
Der Scheiss fing vor 50 Jahren mit der Schufa und der Rasterfahndung an und heisst heute Facebook Timeline, Apple Siri oder Google Alexa. Weiter geht's dann mit "Business Intelligence Systems" a la IBM (Deep Blue, Watson, etc.) und in Zukunft eben mit KI-Boxen.
Aber einem Maschinenbewusstsein ist man seit 50 Jahren keinen Deut naeher gekommen.
Musk und Hawking unken halt rum, aber so richtig Hand und Fuss hat das nicht wovor sie warnen. Die echten Bedrohungen sind viel naeher als Terminator-KIs und Aliens denen wir unseren Standort nicht verraten sollten.
Bei Musk hat das sowieso einen seltsamen Beigeschmack, weil seine Hochtechnologie (Raumfahrt, autonomes fahren, etc.) genau die Grundlagen schafft und extrem von dem profitiert wovor er meint warnen zu muessen. Wenn er es ernst meint waere Selbstbeschraenkung seine erste Pflicht, statt irre Marskolonie Rettungsphantasien. Aber Pustekuchen. Techno-Jesus Blowheart will sich nur in Szene setzen: Einmal als Avantgarde, und dann gleich noch als Kritiker, man weiss ja nie wie es ausgeht, aber die Fans sollen an ihm immer was finden koennen "wo er schon immer recht gehabt hat".
Gruss
M.