A Nobel -díjas közgazdász figyelmeztette a mesterséges intelligencia nagy veszélyeit

A különböző modelleknek nagyon eltérő hatása lesz.

• „Aki tanácsadó„A megközelítés esetén az AI -kereskedők személyre szabási ajánlásokat nyújtanak az embereknek, mint döntéshozóknak, így az emberek mindig a vezetőhelyen maradnak.
• „AI autonóm„A modell esetében azonban a kormány áttekintő ügynökei képviselik az embereket.

Az emberek több száz döntést hoznak naponta, amelyek közül néhány súlyos következményekkel jár karrierjükre, megélhetésre vagy boldogságra. E döntések közül sok a hiányos vagy hiányos információkon alapul, és ezeket érzelmek, intuíció, ösztönök vagy impulzusok határozzák meg. Mint David Hume mondta: „Az intelligencia csak a szenvedély rabszolgája – és ilyennek kell lennie.” Az emberek a legtöbb döntés nagy részét szisztematikus rendszer vagy a döntés teljes következményei nélkül hozhatják meg, de amikor Hume felismeri nyilatkozatának „részét”, ez nem rossz dolog. Ez emberré tesz minket. Szenvedélyes tükrözi a célokat, és fontos szerepet játszhat a komplex világban való virágzásmódban.

Az AI tanácsadók személyre szabottak, megbízhatóak, és javíthatók, sok fontos döntés javítható, de az emberi motívumok továbbra is dominálnak. De mi a baj az AI megoldással, hogy eldöntsük a nevünket? Nem tudják javítani a döntéseket, időt takaríthatnak meg és megakadályozzák a hibákat?

Van néhány probléma ezzel a módszerrel. Mindenekelőtt az emberi képesség az, hogy kritizálja az ember tanulását és jólétét. A döntés -az eredmények önmagai megvalósítása és döntése, még akkor is, ha az inputok és a tanács nem emberi ügynökökből származik, megerősítik saját képességeink és céljaink érzését. A legtöbb emberi tevékenység nem a bemeneti adatok kiszámításáról vagy összegyűjtéséről szól, hogy eldöntse, mi az optimális művelet; Ehelyett erről a felfedezési élményről szól, amely ritkábbá válik, ha bízunk egy AI kereskedőben.

Ezenkívül, ha a technológiai ipar elsősorban az AI ügynökeire összpontosít, az emberi munka automatizálásának képessége jelentősen növekszik.

Ha azonban valaki elsősorban az automatizálás felgyorsításának eszközévé válik, akkor remélhetőleg a terjedés feloldódik.

Fontos hangsúlyozni, hogy az AI -ügynökök között alapvető különbség van az emberek és a maguknak cselekedetek nevében. Sok olyan helyzetben, hogy az emberek egymással kapcsolatba lépnek, mind együttműködési, mind konfliktus tényezők vannak. Például, amikor egy vállalat egy hozzájárulást kínál egy másik cég számára. Ha ez a bemenet kellően érvényes a vásárlók számára, akkor a két vállalat közötti tranzakciók előnyösek egymás (és általában a társadalom számára).

Bármely csere létrehozásához azonban a beviteli árat meg kell határozni a velejáró konfliktus során. Minél magasabb az ár, annál magasabb az eladó előnye a vásárlókkal. Az ilyen alku eredményeit gyakran a szabványok (például a tőke), a szervezetek (például a szerződések, a jogsértések) és a piaci tényezők (például az eladónak lehetősége van arra, hogy eladja termékeit). Képzelje el, hogy az ügyfél az a hír, hogy teljesen nyugtalan – csak készen áll a lehető legalacsonyabb ár elfogadására. Ha nincs más vevő, akkor az eladó kénytelen lehet alacsony áron belépni.

Szerencsére a napi tranzakcióink során az ilyen kompromisszumok nélküli magatartás nagyon ritka, részben azért, mert nem fizet egy rossz és fontosabb hírt, mert a legtöbb embernek nincs bátorsága, valamint arra, hogy ilyen pozitív módon cselekedjen. Képzelje el, hogy a vevőnek van egy autonóm AI -ügynöke, aki nem törődik az emberi finomságokkal, és nincs emberi acél idege. Ki tanítható, hogy mindig képviselje az ilyen típusú kompromisszumok nélküli helyzetet, így a másik oldalnak nem lesz reménye, hogy meggyőzze a jó alku másik oldalát.

Éppen ellenkezőleg, a világon, ahol az AI tanácsadó, mindig javasolhat egy nem folytatódó pozíciót, de végül az emberek úgy döntenek, hogy választják -e ezt az utat vagy sem.

Ezért a közeljövőben az AI ügynöki ügynökök egyenlőtlenebb világot hozhatnak, ahol csak néhány vállalat vagy egyén fér hozzá a magas és megbízható AI modellekhez. De még ha az emberek is hozzáférhetnek ugyanahhoz az eszközhöz, az nem lesz jobb.

Az egész társadalmunkat egy „háborúnak” kell kitenni, amelyben az AI ügynökei minden konfliktushelyzetet az összeomlás szélére állítják.

Az ilyen rendelkezések természetéből adódóan kockázatosak. Mint a csirke játékban, amikor a kettő gyorsan együtt vezet, hogy megtudja, ki az első kormányzás, lehet, hogy mindig senki nem tér vissza. Ha ez történt, mindkettő „nyert” – és mindketten odamentek.

Egy olyan megoldás, amelyet a csirke játék megnyerésére kiképeztek, soha nem fogja húzni a kormányt. Bár ki lehet mindenki számára jó tanácsadó – hasznos, megbízható és releváns információkat ad nekünk valós időben – Az autonóm AI -ügynökök világa, amelyek új problémákat okozhatnak, míg számos előnyt nyújtanak az erodálható technológia.

Szerzői jog: Syndicate Project, 2025.

www.project-syndicate.org

Daron acemoglu
A gazdasági professzor elnyerte a MIT Nobel -díját (Massachusetts Institute of Technology). Kutatása többek között a politikai gazdaságtan, a gazdasági fejlődés és a növekedés, a technológiai fejlődés és a jövedelem -egyenlőtlenség. 2024 -ben kapta meg a Nobel -díjat.