Pozastavte vývoj umělé inteligence na 6 měsíců! Elon Musk a 2 600 technologických vůdců a vědců varují před AI
Více než 2 600 technologických vůdců a výzkumníků podepsalo otevřený dopis, v němž nabádají k dočasnému pozastavení dalšího vývoje umělé inteligence (AI) z obavy „hlubokých rizik pro společnost a lidstvo.“
Umělá inteligence se rychle stává jedním z hlavních světových témat. Jednoznačně ji můžeme zařadit mezi klíčové nové technologie 21. století. S pokračujícím vývojem se však objevují i velké obavy.
Generální ředitel společnosti Tesla Elon Musk, spoluzakladatel Applu Steve Wozniak a řada generálních ředitelů, CTO a výzkumníků AI byli mezi signatáři dopisu, který 22. března zveřejnil americký think tank Future of Life Institute (FOLI).
Institut vyzval všechny společnosti zabývající se umělou inteligencí, aby „okamžitě pozastavily“ školení systémů umělé inteligence, které jsou výkonnější než GPT-4, po dobu nejméně šesti měsíců.
Institut uvádí:
Inteligence konkurující lidem může představovat mimo jiné hluboká rizika pro společnost a lidstvo.
Pokročilá umělá inteligence by mohla představovat hlubokou změnu v historii života na Zemi a měla by být plánována a řízena s přiměřenou péčí a zdroji. Bohužel k této úrovni plánování a řízení nedochází.
Chat GPT-4 je nejnovější verzí chatbota od OpenAI poháněného umělou inteligencí. Byl uveden na trh 14. března a již úspěšně absolvoval některé z nejpřísnějších amerických středních škol a právnických zkoušek, kde se umístil mezi 10 % nejlepších studentů.
Podle vývzy 6 měsíční pauza umožní vývoj bezpečnostních protokolů.
Měli bychom vyvinout nelidské mysli, které by nás nakonec mohly převýšit, přechytračit a nahradit nás? Měli bychom riskovat ztrátu kontroly nad naší civilizací? Taková rozhodnutí nesmí být delegována na nevolené technologické lídry, dodává výzva.
I přes značnou podporu výzvy všichni tyto obavy nesdílí. Ben Goertzel, generální ředitel SingularityNET, uvedl:
Respektuji obavy, ale nepodepíšu to. LLM [modely jazykového učení] se nestanou AGI [roboty s umělou obecnou inteligencí]. Představují společenská rizika, stejně jako mnoho věcí. Mají také velký potenciál k dobru. Společenský tlak na zpomalení výzkumu a vývoje by měl být vyhrazen pro biologické zbraně a jaderné zbraně atd., nikoli složité případy, jako je tento.
Advertisement
