KI könnte zum Aussterben der Menschheit führen, behaupten Experten unverblümt

In den letzten Monaten haben viele KI-Experten und Führungskräfte vor den Gefahren einer fortgeschrittenen KI-Entwicklung gewarnt.

Die neueste Salve ist eine neue 22-Wörter-Erklärung, die das globale Risiko von KI mit dem von Pandemien und Atomkrieg gleichsetzt.

Nicht alle Experten sind besorgt, einige sagen, dass die KI noch lange nicht weit genug ist, um die menschliche Existenz auszulöschen.

Viele Menschen machen sich Sorgen um die Zukunft der KI – auch die Köpfe, die an der Gestaltung dieser Zukunft beteiligt sind. Tech-Führungskräfte und CEOs von KI-Unternehmen, darunter Unternehmen wie OpenAI und Deepmind, haben eine einfache, aber eindringliche 22-Wörter-Erklärung über die potenziellen Gefahren von KI unterzeichnet: „Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen globalen Prioritäten sein.“ gesellschaftliche Risiken wie Pandemien und Atomkrieg.“

Die Aussage ist absichtlich vage gehalten und vermeidet Details darüber, wie die Eindämmung dieses wachsenden Risikos zur Priorität gemacht werden sollte. Die Aussage zeigt jedoch, dass genau die Menschen, die hinter der aufkeimenden Technologie stehen, ein hohes Maß an Besorgnis über KI hegen. Laut dem geschäftsführenden Direktor des Zentrums, Dan Hendrycks, ist die im Zentrum für KI-Sicherheit veröffentlichte Erklärung ein „Coming-out“ für KI-Experten, die sich Sorgen um die Zukunft der Technologie machen.

„Selbst in der KI-Community gibt es ein weit verbreitetes Missverständnis, dass es nur eine Handvoll Untergangsverderber gibt“, sagte Hendrycks gegenüber der New York Times. „Aber tatsächlich würden viele Menschen privat ihre Besorgnis über diese Dinge äußern.“

Die Bedrohung durch KI besteht nicht unbedingt darin, dass eine hochentwickelte künstliche Lebensform die Menschheit versklaven und ausrotten wird, wie in „Terminator“. Auf der Website des Center for AI Safety wird ein subtilerer Blick auf unser Schicksal geworfen, einschließlich der potenziellen Rolle der KI bei der Entwicklung wirksamerer chemischer Waffen, der Beschleunigung von Desinformationskampagnen und der Verschärfung der gesellschaftlichen Ungleichheit.

Diese Sorgen sind nichts Neues. Ängste vor KI sind fast so alt wie die Anfänge der Technologie und spielen seit fast einem Jahrhundert eine große Rolle in der Science-Fiction. Isaac Asimov schuf bereits 1942 die drei Gesetze der Robotik, und im Science-Fiction-Roman „Dune“ von 1965 wird die KI in der gesamten bekannten Galaxie vollständig verbannt, um die Menschheit zu retten.

Im März forderten Technologieführer – darunter Elon Musk (ein langjähriger Sprecher für die Gefahren von KI) und andere führende KI-Forscher – ein sechsmonatiges Moratorium für KI-Forschung, die „leistungsstärker als GPT-4“ ist, die neueste Version des großen multimodalen Modells von OpenAI . Im April veröffentlichte die Association for the Advancement of Artificial Intelligence einen eigenen Brief, in dem sie die Entwicklung von Möglichkeiten forderte, „um sicherzustellen, dass die Gesellschaft in der Lage ist, das große Versprechen der KI zu nutzen und gleichzeitig ihre Risiken zu bewältigen“. Und erst Anfang des Monats äußerte der als „Vater der KI“ bekannte KI-Experte Geoffrey Hinton ebenfalls Befürchtungen über die wachsende Technologie – und sagte sogar, er bereue sein Lebenswerk.

Nicht alle KI-Experten beteiligen sich am Händeringen. Ein Informatiker der Princeton University sagte gegenüber der BBC, dass „die derzeitige KI bei weitem nicht in der Lage ist, diese Risiken zu verwirklichen. Dadurch wird die Aufmerksamkeit von den kurzfristigen Schäden der KI abgelenkt“, wie etwa ihrem voreingenommenen und ausschließenden Verhalten. Unabhängig davon haben sowohl Microsoft als auch OpenAI die US-Regierung aufgefordert, die KI-Entwicklung zu regulieren, und der Unterausschuss für Justiz des Senats hielt Mitte Mai ein Panel zur KI-Aufsicht ab.

Die düstere Zukunft der KI ist noch nicht beschrieben, und einige Führungskräfte und Experten im Technologiebereich versuchen, dies auch so beizubehalten.

Das könnte Ihnen auch gefallen

Die Vor- und Nachteile der Verwendung von Malerband

Die besten tragbaren Grills zum Kochen überall

Kann eine Smartwatch Ihr Leben verlängern?