Vágólapra másolva!

Roman Yampolskiy mesterségesintelligencia-szakértő hátborzongató figyelmeztetést fogalmazott meg: szerinte a mesterséges intelligencia térnyerése akár az emberiség kihalásához is vezethet.

• Roman Yampolskiy szerint 99,9 százalék az esélye, hogy az MI száz éven belül az emberiség pusztulását okozza
• Egy több mint 2700 MI-szakértő bevonásával készült kutatás ennél lényegesen kisebb, 5 százalékos kockázatot jelzett
• A technológia vezető szakemberei között sincs egyetértés arról, jelent-e egzisztenciális veszélyt a mesterséges intelligencia
• Sam Altman korábban a munkahelyek megszűnéséről és a „társadalmi szerződés” megváltozásáról is beszélt

A Louisville-i Egyetemen az MI-biztonsággal és kiberbiztonsággal foglalkozó informatikai szakember Lex Fridman podcastjában arról beszélt, hogy becslése szerint 99,9 százalék az esélye annak, hogy a mesterséges intelligencia a következő száz évben kipusztítja az emberiséget.

A csaknem kétórás beszélgetés során Yampolskiy azzal érvelt, hogy eddig egyetlen üzembe állított MI-rendszer sem bizonyult teljes mértékben megbízhatónak, ezért kétli, hogy a jövő fejlettebb rendszerei esetében teljesen kizárhatók lennének a katasztrofális hibák.

Yampolskiy azon kevés, ám annál határozottabban megszólaló, úttörő MI-kutatók közé tartozik, akik nyíltan figyelmeztetnek a technológia lehetséges veszélyeire, miközben Donald Trump elnöksége alatt egyre intenzívebbé válik a mesterséges intelligenciáért folyó verseny.

A szakértő korábban könyvet is írt „AI: Unexplainable, Unpredictable, Uncontrollable” (MI: Megmagyarázhatatlan, kiszámíthatatlan, irányíthatatlan) címmel. A kötetet úgy mutatják be, mint amely „átfogó bevezetést nyújt az olyan alapvető problémákba, mint az MI által produkált eredmények kiszámíthatatlansága vagy az MI döntéseinek nehéz megmagyarázhatósága”.

Yampolskiy így fogalmazott: 

A könyv olyan összetettebb kérdéseket is körüljár, mint a tulajdonjog és az ellenőrzés problémája, miközben részletesen elemzi a lehetséges veszélyeket és a nem szándékolt következményeket. A könyv végül filozófiai és egzisztenciális kérdésekkel zárul: többek között azt vizsgálja, tekinthető-e az MI önálló személynek, rendelkezhet-e tudattal, illetve mi különbözteti meg az emberi intelligenciát a mesterséges általános intelligenciától (AGI).

Technológiai szakértők szerint éppen a mesterséges intelligencia úttörői – köztük Yampolskiy – azok, akik a leghatározottabban kongatják a vészharangot a technológiai áttörés esetleges katasztrofális következményei miatt. Yampolskiy borúlátó jóslatát ugyanakkor egyes kutatási eredmények árnyalják, amelyek szerint az MI jelentette veszély jóval kisebb lehet annál, mint amit a szakértő előrejelzése sugall. 

Az angliai Oxfordi Egyetem és a németországi Bonni Egyetem kutatói több mint 2700, mesterséges intelligenciával foglalkozó szakember véleményét vizsgálva arra jutottak, hogy mindössze 5 százalék az esélye annak, hogy az MI az emberiség pusztulását okozza.

Sokan úgy beszélnek az emberiség kihalásának kockázatáról, mintha csak egy kisebbség tartaná ezt reális veszélynek, holott az MI-szakértők körében ez egyáltalán nem számít szélsőséges álláspontnak

– figyelmeztetett Katja Grace, a tanulmány egyik szerzője. „A nézetkülönbség inkább abban van, hogy ez a kockázat 1 vagy 20 százalék”.

Több neves MI-szakértő ugyanakkor határozottan elutasítja azokat az állításokat, amelyek szerint a mesterséges intelligencia valamiféle apokalipszist idézhet elő. Közéjük tartozik a Google Brain társalapítója, Andrew Ng, valamint az MI egyik úttörőjeként számon tartott Yann LeCun is. Utóbbi szerint az olyan technológiai óriáscégek vezetőinek, mint az OpenAI élén álló Sam Altman, hátsó szándékaik is lehetnek azzal, hogy a mesterséges intelligencia katasztrofális következményeinek veszélyét hangsúlyozzák.

Altman aggodalmaihoz hasonlóan az MI számos bírálója is arra figyelmeztet, hogy a technológia akár súlyos gazdasági válságot is előidézhet, ha ágazattól függetlenül tömegesen váltja ki az emberi munkaerőt. Altman már több mint egy évtizeddel ezelőtt, 2015-ben is komor jóslattal állt elő: 

Az MI valószínűleg a világ végét fogja okozni, de addig is nagyszerű vállalatok születnek majd.

Altman az év elején azért is komoly bírálatokat kapott, mert arról beszélt, hogy a mesterséges intelligencia széles körű elterjedése szükségessé teszi majd a „társadalmi szerződés megváltoztatását” – írja a Daily Star. 

A legfrissebb hírekért kövess minket az Origo Google News oldalán is!

Ne maradjon le az ORIGO cikkeiről, iratkozzon fel hírlevelünkre!