Ez a történet a Substack Big Technology hírlevélből származik; iratkozz fel ingyen itt .
Múlt héten telt ház előtt az amszterdami World Summit AI-n megkértem a Meta, a Google, az IBM és a The University of Sussex vezető kutatóit, hogy szóljanak, ha nem akarják, hogy a mesterséges intelligencia tükrözze az emberi intelligenciát. Néhány néma pillanat után egyetlen kéz sem emelkedett fel.
A válasz az AI-ipar azon törekvését tükrözte, hogy emberi szintű kogníciót építsen ki, még akkor is, ha esetleg elveszíti az irányítást felette. A mesterséges intelligencia most nem érző – és egy ideig nem is lesz az, ha valaha –, de egy elszánt AI-ipar már olyan programokat ad ki, amelyek képesek csevegni, látni és rajzolni, mint az emberek, miközben megpróbálnak eljutni oda. És ahogy halad tovább, azt kockáztatja, hogy előrehaladása a veszélyes ismeretlenbe kerül.
„Nem hiszem, hogy be lehet zárni Pandora szelencéjét” – mondta Grady Booch, az IBM vezető tudósa az esetleges emberi szintű AI-ról. 'A nukleáris fegyverekhez hasonlóan a macska is kikerült a zsákból.'
A mesterséges intelligencia fejlődésének összehasonlítása a nukleáris fegyverekkel találó, de nem teljes. A mesterséges intelligencia kutatói utánozhatják a nukleáris tudósok azon vágyát, hogy a következmények ellenére technikai fejlődést érjenek el – még akkor is, ha a veszély különböző szinteken van. Ennek ellenére többen fognak hozzáférni a mesterséges intelligencia technológiájához, mint az a néhány kormány, amely nukleáris fegyverekkel rendelkezik, így kevés az esély a hasonló korlátozásra. Az iparág már most képtelen lépést tartani vele az áttörések őrülete .
törvény és rend amerikai szégyen
Az AI visszatartásának nehézségei nyilvánvalóvá váltak az év elején, miután az OpenAI bemutatta a Dall-E-t, a mesterséges intelligencia művészeti programját. Az OpenAI kezdettől fogva átgondolt szabályokkal futtatta a Dall-E-t, hogy mérsékelje annak árnyoldalait, és lassú bevezetéssel értékelje a hatását. De ahogy a Dall-E felkapta a vonzerejét, még az OpenAI is elismerte, hogy keveset tehet a másolókkal szemben. 'Csak az OpenAI-val tudok beszélni' mondott Az OpenAI kutatója, Lama Ahmad, amikor a potenciális emulátorokról kérdezték.
A Dall-E másolók hamarosan megérkeztek, és kevesebb korlátozással. A versenytársak, köztük a Stable Diffusion és a Midjourney demokratizálták az akadályok nélküli hatékony technológiát, és mindenki elkezdett mesterséges intelligencia képeket készíteni. A Dall-E, amely a múlt hónap végéig csak heti 1000 új felhasználót fogadott be megnyílt mindenki előtt .
Hasonló minták fognak megjelenni, ahogy egyre több mesterséges intelligencia technológia tör át, függetlenül attól, hogy az eredeti fejlesztők milyen védőkorlátokat alkalmaznak.
A dnc elismeri, hogy a bíróságon az előválasztást követték el
Kétségtelenül furcsa időszak van annak megvitatására, hogy a mesterséges intelligencia tükrözheti-e az emberi intelligenciát – és milyen furcsa dolgok fognak történni az út során –, mivel a mesterséges intelligencia manapság végzett tevékenységeinek nagy része alapvető. A jelenlegi rendszerek hiányosságaira és kihívásaira könnyű rámutatni, és a területen dolgozók közül sokan inkább nem foglalkoznak hosszabb távú kérdésekkel (például, hogy a mesterséges intelligencia képes-e érzővé válni), mivel úgy gondolják, hogy energiájukat jobban fordítják azonnali problémákra. A shorttermisták és a longtermisták két különálló csoport a mesterséges intelligencia világában.
Amint azt idén láthattuk, az AI azonban rohamosan fejlődik. Haladás be nagy nyelvi modellek okosabbá tette a chatbotokat, és most az érzékükről (vagy pontosabban annak hiányáról) vitatkozunk. A mesterséges intelligencia művészete tavaly nem volt a közvélemény képzeletében, és most is mindenhol ott van. Az AI is most van videók létrehozása szövegsorokból. Még ha rövidtávú is vagy, a hosszú táv a tervezettnél előbb érkezhet. Meglepett, hogy mennyi mesterséges intelligencia tudós mondta hangosan, hogy nem tudja – és nem is akarja – meghatározni a tudatot.
Természetesen van lehetőség arra, hogy ne legyünk olyanok, mint az atomfegyverkutatók. Másként gondolkodni, mint ahogyan J. Robert Oppenheimer, aki az atombombával kapcsolatos munkát vezette, fogalmazott. „Amikor látsz valamit, ami technikailag édes – mondta –, megy, és megcsinálja, és csak azután vitatkozik, hogy mit tegyen vele, miután elérte a technikai sikert.”
Talán ezúttal több gondolkodás jobb eredményhez vezet.
