Viren und Waffen - Nobelpreisträger warnt vor KI-Gefahren

Er hat Grundlagen für das maschinelle Lernen geschaffen. Doch wenn
Geoffrey Hinton in die Zukunft blickt, sieht er viele Risiken, die
von klugen digitalen Wesen ausgehen könnten.

Stockholm (dpa) - Der Physik-Nobelpreisträger und
KI-Grundlagenforscher Geoffrey Hinton hat eindringlich vor den
Gefahren gewarnt, die Künstliche Intelligenz (KI) der Menschheit
bringen könnte. Mit der KI könne man zwar hochintelligente Helfer
erschaffen, die die Produktivität in fast allen Branchen steigern und
somit einen wundervollen Fortschritt für die Menschheit bringen
könnten, sagte der 77 Jahre alte Brite auf dem Nobelbankett zu Ehren
der diesjährigen Nobelpreisträger in Stockholm. 

Leider bringe die rasante KI-Entwicklung aber auch viele kurzfristige
Risiken mit sich, warnte Hinton, wie in der Übertragung des Banketts
beim schwedischen Rundfunksender SVT zu sehen war. «In der nahen
Zukunft könnte KI dazu verwendet werden, schreckliche neue Viren und
grauenhafte tödliche Waffen zu erschaffen, die selbst entscheiden,
wen sie töten oder verstümmeln.» 

«Keine Science-Fiction mehr»

Die kurzfristigen Risiken erforderten dringende und energische
Aufmerksamkeit von Regierungen und internationalen Organisationen,
mahnte Hinton vor den knapp 1.300 Gästen des Banketts. In
langfristigerer Hinsicht gebe es zudem eine existenzielle Bedrohung,
die entstehe, wenn digitale Wesen erschaffen würden, die
intelligenter als die Menschen seien. «Wir haben keine Ahnung, ob wir
die Kontrolle behalten können», sagte Hinton. «Wir müssen dringend

erforschen, wie wir verhindern können, dass diese neuen Wesen die
Kontrolle übernehmen wollen. Sie sind keine Science-Fiction mehr.»

Der an der Universität im kanadischen Toronto lehrende Hinton und der
US-Amerikaner John Hopfield haben den diesjährigen Physik-Nobelpreis
für grundlegende Entdeckungen und Erfindungen erhalten, die
maschinelles Lernen mit künstlichen neuronalen Netzen ermöglichen.
Sie wurden am Dienstag ebenso wie die anderen Nobelpreisträger
feierlich ausgezeichnet.