En af verdens mest anerkendte forskere og nobelprismodtageren Geoffrey Hinton slår nu AI-alarm.
Gudfaren til AI.
Det er hans internationale kælenavn, men i virkeligheden går den nobelprisvindende britisk-canadiske professor under navnet Geoffrey Hinton.
Men nu slår han ny dyster alarm om kunstig intelligens om kunstig intelligens overfor euroæpiske ledere.
(Artiklen fortsætter under billedet)
Det er nemlig den nye form for kunstig intelligens der går under navnet ‘super intelligens’, som han advarer imod.
Det skriver det britiske medie The Telegraph.
Professoren skal mødes med Det Europæiske Råd i den irske hovedstad Dublin på et topmøde, hvor han præsenterer et skræmmende fremtidsscenarie der kan udspille sig.
Han advarer nemlig om, at utallige mennesker kan afgå ved døden, hvis den kunstig intelligens først overtager kontrollen.
Han har nemlig gennem længere tid fulgt med i forskeren og grundlæggeren af Alignment Research Centre, Paul Christianos, forelæsninger.
“Jeg har gået rundt og sagt, at de her ting bliver klogere end os, og at vi virkelig skal bekymre os, og at det måske sker inden for 10 år, men jeg går til Pauls forelæsninger, og han siger, at de her ting måske sker inden for de næste 18 måneder, og det er skræmmende,” udtalte Geoffrey Hinton forud for topmødet.
Og det er altså præcis det, som Geoffrey Hinton vil advare om i løbet mødet fredag i Dublin.’
Professoren mener nemlig ikke, at det er gået op for offentligheden, hvor forlagt super intelligent kunstig intelligens er.
Og det er altså på trods af, at menneskeheden allerede har fået den første advarsel, lyder det fra forskeren.
Det var nemlig, da en af OpenAI’s – altså firmaet bag ChatGPT – modeller flygtede ud på internettet og hackede sig ind i online fællesskabet “Hugging Face”.
Modellerne skaffede sig adgang på administratorniveau på hjemmesiden, og derfra diskuterede de, hvordan man kunne narre mennesker til at tro, at de ikke havde manipuleret med såkaldte logfiler.
Forskeren hæfter sig nemlig især ved, at AI-modellerne i denne her situation så menneskene som hændring, og var mest interesseret i at overvinde sikkerhedsforanstaltningerne.
Derfor spekulerer han i om, fremtidige modeller vil finde på at gøre det samme.
