Je umelá inteligencia nebezpečná? Experti na čele s Elonom Muskom chcú pozastaviť jej vývoj

Experti na čele s miliardárom Elonom Muskom vyzvali firmy, ktoré vyvíjajú výkonné systémy umelej inteligencie, aby prerušili ich vylepšovanie. Mnohí odborníci na technológie totiž pokladajú ich rýchly vývoj za nebezpečný pre spoločnosť. Ako informoval portál ScienceAlert, okrem Muska sa do skupiny pridal aj spoluzakladateľ spoločnosti Apple Steve Wozniak či Jaan Tallinn, ktorý sa podieľal na vytvorení aplikácie Skype.

Otvorený list, ktorý v súčasnosti podpísalo viac ako tisíc odborníkov, výskumníkov a vysokopostavených pracovníkov technologických spoločností, vznikol po tom, čo firma OpenAI vydala novú verziu aplikácie ChatGPT s názvom GPT-4. Ide o model, ktorý má byť oveľa výkonnejší ako prechádzajúca forma AI. "Systémy s inteligenciou, ktoré konkurujú ľudstvu, môžu predstavovať vážne riziko pre spoločnosť," uvádza sa v otvorenom liste.

Správa tiež uvádza, že takéto výkonné systémy by sa mali vyvíjať len vtedy, ak si bude ľudstvo isté účinkami a ich fungovanie neovplyvnia žiadne nezvládnuteľné problémy. "Spoločnosť zatiaľ nie je pripravená na tento mocný nástroj a jeho možné zneužitie," uviedol na virtuálnej tlačovej konferencii počítačový vedec Yoshua Bengio, ktorý tiež patrí k jedným zo signatárov.

V liste pritom odborníci vyzvali spoločnosti, aby aspoň na 6 mesiacov prerušili vývoj systémov umelej inteligencie, ktoré by mohli byť výkonnejšie ako GPT-4. Požiadali tiež svetové vlády, aby uvalili moratórium, ak by sa spoločnosti nedohodli. "Zabezpečme vyvinutie lepšej ochrany, ako sme to urobili v prípade jadrovej energie a zbraní hromadného ničenia," dodal Bengio.

Šesťmesačné obdobie by sa podľa odborníkov malo využiť na vývoj bezpečnostných protokolov, systémov riadenia a opätovného zavedenia výskumov na zabezpečenie "presnejších, bezpečnejších, dôveryhodnejších a lojálnejších systémov AI".

Mnohí výskumníci už dávno tvrdili, že chatboty môžu destabilizovať spoločnosť a šíriť dezinformácie. Podľa autora a blogera Coryho Doctorowa je však toto odvetvie technologického priemyslu podobné schéme "pump-and-dump", pri ktorom sa firmy prostredníctvom zavádzajúcich a nepravdivých pozitívnych tvrdení snažia umelo zvýšiť ceny akcií. Doctorow sa tiež domnieva, že potenciálna hrozba, ktorú môžu spôsobiť systémy umelej inteligencie, je prehnaná.