Öntudatra ébredhet a mesterséges intelligencia?

A technológiai ipar vezető szereplői nyílt levélben sürgették szerdán a mesterséges intelligencia fejlesztések azonnali felfüggesztését a társadalmat fenyegető kockázatok miatt.

Az Élet Jövője Intézet (Future of Life Institute) által kiadott dokumentumot már több, mint 1300-an írták alá

A dokumentum szerint a fejlesztőknek átmeneti, 6 hónapos időre le kellene állítaniuk a mesterséges intelligencia (Artificial Intelligence – AI)  fejlesztéseket, az olyan eszközök tanulási folyamatát, amelyek teljesítménye meghaladja az úgynevezett GPT-4-es rendszerét. A GPT-4 az OpenAI fejlesztővállalat legújabb, tanulásra képes modellje, amelyik emberi szintű teljesítményt mutat számos szakmai és tudományos teljesítményértékelés alapján.

A levél szerint a nagy teljesítményű mesterséges intelligencia rendszereket csak akkor lehet kialakítani, miután „biztosak lehetünk abban, hogy hatásaik pozitívak és az általuk jelentett kockázat kezelhető”.

A levél arra is felhívja a figyelmet, hogy jelenleg senki nem tudja megérteni, megjósolni és megbízhatóan ellenőrzés alatt tartani azokat a nagy teljesítményű eszközöket, amelyek a mesterséges intelligencia laboratóriumokban vannak fejlesztés alatt.

Még mindig csak fikció a Skynet és a Terminátor?

„A Cyberdyne Systems által fejlesztett katonai mesterséges intelligencia, a Skynet feladata az Egyesült Államok védelme volt az ellenségeitől. Azonban hamarosan öntudatra ébredt, és rájött, hogy az emberiségtől kell a legjobban félnie. 1997. augusztus 29-én a Skynet öntudatra ébredt, az emberek megpróbálták leállítani, mert veszélyesnek érezték a helyzetet. Pusztulásától való félelmében atomrakétákat lőtt ki Oroszországra. 2018-ban a Skynet a világ ura, hatalmas robothadseregekkel és az előállításukhoz szükséges gyárakkal. 2029-ben a Skynet visszaküld egy kiborgot a múltba, hogy végezzen John Connor anyjával, mielőtt John Connor megszületik.”

A jól ismert Terminator sztori

A mesterséges intelligencia fejlesztéssel foglalkozó nagy informatikai vállalatok között tavaly novemberben szinte „fegyverkezési verseny” alakult ki, miután az OpenAI megjelentette új chatbotját a ChatGPT-t, amely képes a bevitt információkat interaktívan kezelni és alkalmazni, miközben a felhasználókkal való folyamatos kommunikáció automatizálásával értelmezőmodelleket használ.

A cégek közötti verseny főszereplői az OpenAI mellett a Google és a Microsoft, de az IBM, az Amazon, a Baidu és a Tencent is dolgozik hasonló technológián. A levél utal arra, hogy az egyre nagyobb verseny oda vezet, hogy annak ellenőrzése kicsúszik a kezükből, és olyan erővel bíró digitális elmét hoz létre, amelynek viselkedését maguk a létrehozók sem tudják már megérteni, megjósolni és kontrollálni.

A mesterséges intelligenciával foglalkozó szakértők aggályaikat hangoztatták amiatt, hogy az új mesterséges intelligencia eszközök a tanulási folyamataik révén képessé válhatnak elfogult válaszokra, álinformációk terjesztésére, valamint sérthetik a fogyasztók személyiségi jogait.

Az aláírók között van

Elon Musk, CEO of SpaceX, Tesla & Twitter

Steve Wozniak, Co-founder, Apple

John J Hopfield, Princeton University, Professor Emeritus, inventor of associative neural networks

Max Tegmark, MIT Center for Artificial Intelligence & Fundamental Interactions, Professor of Physics, president of Future of Life Institute

Zachary Kenton, DeepMind, Senior Research Scientist

Danielle Allen, Harvard University, Professor and Director, Edmond and Lily Safra Center for Ethics

Régis Sabbadin, Inrae-Université de Toulouse, France, Research Director in AI

Subhabrata Majumdar, AI Risk and Vulnerability Alliance, Founder and President

Horváth Tamás, Rabomatik Ipari Automatizális Kft., Project Manager