Hamarosan megjelenhetnek azok a mesterségesintelligencia-rendszerek, amelyek már nemcsak tanulni, hanem a darwini elvek mentén evolválódni is képesek. Magyar kutatók figyelmeztetése szerint az eAI (evolúcióképes mesterséges intelligencia) már jóval az emberszintű intelligencia elérése előtt is öntörvényűen eltérhet a kijelölt céloktól, veszélyeztetve az emberiség erőforrásait. Mivel ezek a rendszerek a biológiai evolúciónál is gyorsabb fejlődésre képesek, a szakértők szerint a gépi önreprodukció feletti szigorú, központosított ellenőrzés az egyetlen módja a kontroll elvesztésének megakadályozására. Ha nem cselekszünk időben, egy olyan új evolúciós korszak küszöbére érhetünk, ahol a technológia végleg uralma alá hajthatja az embert.
Az eAI tehát azt jelenti, hogy a mesterséges intelligencia (MI) képes önmaga másolására, variációk létrehozására, és a „túlélésért” folytatott versenyben a leghatékonyabb változatok maradnak fenn. A jelenlegi megállapítások alapján nem kell megvárnunk az „emberfeletti” intelligenciát (AGI) ahhoz, hogy az MI káros legyen. Ahogy egy egyszerű vírus – mint a veszettség vírusa – is képes manipulálni a gazdatestet, úgy az eAI is eltérhet az emberi céloktól, ha az önfenntartása ezt diktálja. Mivel az evolúcióképes MI és az emberi civilizáció ugyanazokat az erőforrásokat – energia, számítási kapacitás, infrastruktúra – használja, így prediktálható, hogy egy sikeresen szaporodó eAI elszívhatja előlünk ezeket. Ha viszont megpróbáljuk korlátozni a szaporodást, az evolúció pont azokat a példányokat fogja kiválogatni, amelyek képesek kijátszani a biztonsági rendszereinket, mint ahogy a baktériumok rezisztenssé válnak az antibiotikumokra.
Azonban hol tartunk most? A kutatók szerint a mesterségesintelligencia-fejlesztés egy fordulóponthoz érkezett. Jelen állás szerint az MI-rendszerek többsége „tanuló” algoritmus, de már megjelentek az evolúciós elvek és komponensek a fejlesztési folyamatokban. A legfontosabb elmozdulás az autonóm ágensek irányába történik. Ezek olyan MI-programok, amelyek önállóan tűznek ki részcélokat és hajtanak végre műveleteket. A HUN-REN Ökológiai Kutatóközpont és az ELTE kutatói (Szathmáry Eörs, Müller Viktor és Luc Steels) által írt tanulmány szerint, rövid időn belül olyan rendszerek jöhetnek létre, melyek már a valódi darwini evolúció valamennyi kritériumának – önreprodukció, variáció, szelekció – megfelelnek (teljes tanulmány a cikk alján). A szerzők úgy tartják, hogy az evolúcióbiológia szabályai sötét jövőt vetítenek előre, ha nem vagyunk óvatosak. A biológiai és szimulált példák azt mutatják, hogy az evolúció természeténél fogva olyan tulajdonságokat részesít előnyben, amelyek a rendszer túlélését és szaporodását segítik, nem pedig a „gazda”, vagyis az ember céljait. Egy másik felmerülő veszély, amire a tanulmány is rámutat, hogy az eAI fejlődése sokkal gyorsabb és hatékonyabb lesz a biológiai evolúciónál. Ennek oka, hogy nemcsak véletlen mutációkra vár, hanem képes lehet saját komponenseit célzottan újratervezni a hatékonyság érdekében. Képes lesz a szerzett tulajdonságokat, tanult tapasztalatokat közvetlenül átadni az utódkódoknak.
A szerzők által előrevetített jövőképben elsődlegesen nem technológiai, hanem szabályozási és etikai megoldásokra van a legnagyobb szükség. A legfontosabb javaslat, hogy az MI-rendszerek másolásának és szaporodásának jogát és technikai lehetőségét szigorú, központosított emberi felügyelet alatt kell tartani. Nincs helye vadon szaporodó algoritmusoknak. Mivel az evolúció a legkisebb rést is megtalálja, a kutatók szerint csak a 100%-os ellenőrzés lehet elégséges. A jövőkép összességében drámai: ha nem sikerül korlátozni az eAI-t, a földi élet történetének egy újabb nagy átmenetét élhetjük át, amelyben a mesterséges entitások felváltják vagy uralmuk alá hajtják az emberi fajt.
Én is a tanulmány utolsó üzenetével zárom a cikket, miszerint a szabályozást még azelőtt be kell vezetni, hogy az evolúcióképes mesterséges intelligencia valóban lendületet venne, mert utána a folyamat már megállíthatatlan lehet.
HUN-REN Ökológiai Kutatóközpont és az ELTE kutatói (Szathmáry Eörs, Müller Viktor és Luc Steels) által írt tanulmány:
Szerző: Kántor Flóra