Franco „Bifo” Berardi: Beteljesülés – A Mesterséges intelligencia más szemmel

„Felül LI, a Kapaszkodó, a láng
Alul KAN, a Mélység, a víz

A jel azt az időszakot ábrázolja, amikor a zűrzavarból a rendbe történő átmenet még nem ment teljesen végbe. A fordulat ugyan már elő van készítve, amennyiben a fölső trigram valamennyi vonala kapcsolatba kerül az alsó trigram megfelelő vonalaival, azonban a vonalak még nem kerültek a saját helyükre. Míg a megelőző jel az ősznek felel meg, mely a nyárból a télbe történő átmenetet képezi, addig e jel megfelelője a tavasz, mely a téli pangásból átvezet a nyár gyümölcsöző időszakába. E reményteli kilátással zárul a Változások Könyve”

“A helyzet nehéz. A feladat nagy és felelősségteljes. Nem kevesebbről van szó, mint hogy a világot a zűrzavarból vissza kell vezetni a rendbe. E feladat mégis sikert ígérő, mert olyan célra irányul, ami egyesíteni képes az egymásnak ellenszegülő erőket is. Az embernek azonban eleinte halkan és óvatosan szabad csak előrenyomulnia, hasonlóan a jég hátán átkelő öreg rókához. Kínában közmondásos a jégen járó róka óvatossága. Minden reccsenésre odafigyel, minden helyet alaposan és körültekintően kitapogat, mielőtt odalépne. A fiatal róka azonban, akinek még ismeretlen ez a fajta óvatosság, vakmerően megy előre, s megtörténhet, hogy beleesik a vízbe, amikor pedig már csaknem átkelt rajta, s nedves lesz a farka. Ekkor természetesen hiábavaló volt az egész fáradozás. Ennek megfelelően a beteljesülés előtti időszakban az óvatosság és a megfontoltság jelenti a siker előfeltételét.” 1

„A rendszeres írás eltereli a figyelmemet az emberek mai helyzetéről. A bizonyosságról, hogy minden meg van írva, megsemmisülünk, vagy elbizakodottá válunk. Ismerek olyan helyeket, ahol az ifjak leborulnak a könyvek elé, és barbárul csókolgatják a lapokat, közben pedig egyetlen betűt sem képesek megfejteni. A járványok, eretnek viszálykodások, az óhatatlanul banditizmussá fajuló zarándoklatok jócskán megtizedelték a lakosságot. Azt hiszem már említettem az öngyilkosságokat, amelyek száma évről évre több. Talán az öregség és a félelem vezet félre, de azt gyanítom, hogy az emberi faj – az egyetlen – kihalófélben van, és a Könyvtár fennmarad: kivilágítva, magányosan, végtelenül, tökéletes mozdulatlanságban, értékes köteteivel, haszontalanul, ronthatatlanul titkosan.” (J. L. Borges: Bábeli könyvtár (ford.: Boglár Lajos)

Nincs Harmónia

A fent idézett történetben Borges mintha jelenünkről rajzolna képet: az emberi civilizáció felbomlásáról, a vallási fanatizmus terjedéséről a fiatalok körében, akik olyan könyvek lapjait csókolgatják amit nem tudnak elolvasni, valamint járványokról, konfliktusokról és népvándorlásokról, amelyek erőszakba torkollanak. Végül pedig az öngyilkosságokról, amelyek évről évre gyakoribbá válnak. Ez tisztán és jól jellemzi jelenlegi évtizedünket.

Borges kijelenti, hogy a Könyvtárnak nem kell eltűnnie az emberiséggel együtt. Maradhat magányos, végtelen, titkos és tökéletesen haszontalan. Hozzá hasonlóan megmarad az adatok hatalmas tára, amelyet a bolygó szinte minden pontjára telepített számtalan techno-szenzor által rögzített, táplálva a kognitív automatát, amely a törékeny, miazmáktól fertőzött, öngyilkosságba kényszerített emberi szervezetek helyébe lép. Borges legalábbis ezt jósolja. Egy másik jóslatot fogalmazott meg Francis Bacon filozófus. A modern korban a tudás a természet és más emberek feletti hatalom gyakorolásának fontos tényezője volt. Azonban egy bizonyos pillanatban a technikai tudás kiterjedése fordítottan kezdett működni: immár nem az emberi hatalom protéziseként szolgált, hanem ​​a technológia egy önálló dinamikával felruházott rendszerévé alakult át. Most ez a dinamika ejtett foglyul bennünket.

Gunther Anders már az 1960-as években azt mondta, hogy a nukleáris technológia ereje tehetetlenné fogja tenni az embereket. Az atomfegyverrel felszerelt államok egyre kevésbé lesznek képesek kibújni a verseny logikája alól, amely az atomtechnológia egyre pusztítóbb kiterjesztéséhez és fejlesztéséhez fog vezetni, ami olyan gyorsan fejlődik, hogy még a rajta dolgozó tudósok sem tudják teljesen felfogni. Az atomfegyvernek az ember feletti funkcionális fölényében Anders a nácizmus új és teljesebb formájának feltételeit látta.

A huszonegyedik században a digitális technológiák megteremtették a feltételeket minden társadalmi interakció automatizálásához, így a kollektív akarat szinte működésképtelenné vált. Kevin Kelly 1993-as Out of Control: The New Biology of Machines, Social Systems and the Economic World című könyvében ezt előre megjósolta, azzal érvelve, hogy az akkor születőben lévő digitális hálózatok végül olyan globális elmét hoznak létre, amelynek a “szubglobális elméknek” (egyéni ill. kollektív vagy intézményi) alá kell majd rendelődniük. Ahogyan írta, a mesterséges intelligencia kutatása fejlődött. Mára elérte azt az érettségi szintet, amely elegendő ahhoz, hogy körvonalazza egy olyan számtalan eszközből álló rendszer leírását amely képes az emberi kognitív interakciókat automatizálni egyetlen társadalmi testbe.

A logikai rend a társadalmi újratermelés folyamataiba van beleírva. De ez nem jelenti azt, hogy a társadalmi testet harmonikusan is szabályozza. A planetáris társadalom egyre inkább tele van technikai automatizmusokkal. De mint az nyilvánvaló, ez nem szünteti meg a konfliktust, az erőszakot, vagy a szenvedést. Semmiféle harmónia, semmiféle rend nem látszik kialakulni, kivéve az uralkodó osztályokét, ami a lehető leggyengébb.

A káosz és az automata egymásba fonódva és egymásból táplálkozva létezik. A káosz tüzeli az automatikus ellenőrzés műszaki interfészeinek létrehozását, amelyek (újra)termelik az értéket. De a technikai automatizmusok burjánzása, amelyet kihívások elé állít a konfliktusban lévő gazdasági, politikai és katonai hatalom számos ágense, végül inkább szítja a káoszt, semmint mérsékelné azt.

Két párhuzamos világtörténelem bontakozik ki, mindenhol jelenlévő, mégis elkülöníthető metszéspontokkal: egyrészről a geopolitikai, környezeti és mentális káosz és az automatikus rend története ami fokozódva fűződik össze az előbbivel. Mindig így lesz ez már, vagy történik egy rövidzárlat, mikor a káosz legyőzi az automatát? Vagy az automata szabadul meg a káosztól, eliminálva az emberi ágenst?

Beteljesülés

Dave Egger ‘The Circle’ című novellájának utolsó oldalain, Ty Gospodinov megvallja tehetetlenségét Mae-vel szemben, aki egy olyan teremtményben testesült meg, amelyet ő talált ki és épített meg. Egy olyan rettenetes technológiai vállalkozás ez, amely magába olvasztja a Facebook-ot, a Google-t, a PayPal-t, a YouTube-ot és még sok minden mást is. Gospodinov megjegyzi, hogy nem akarja azt, ami történik, de már túl késő. A beteljesülés, a kör bezárulása alkotja a novella horizontját, ahol a kapillárisokon keresztüli adatgyűjtés és mesterséges intelligencia tökéletesen kapcsolódik egy szintetikus valóságot generáló, mindenütt jelenlévő hálózatba.

A mesterséges intelligencia fejlődésének jelenlegi szakasza valószínűleg egy ugrás küszöbéhez visz bennünket, egy olyan dimenzióhoz, amelyet egy mindent átfogó globális kognitív automataként határoznék meg. Az automata nem az emberi szervezet analógiája, hanem az elterjedt és szétszórtan elhelyezkedő mesterséges intelligenciák által generált számtalan eszköz összefolyása, konvergenciája. Az AI evolúciója nem vezet androidok létrejöttéhez, a tudatos szervezet tökéletes szimulációjához. Sokkal inkább abban nyilvánul meg, hogy bizonyos készségeket pszeudokognitív automatákkal helyettesítenek, amelyek összekapcsolódnak, és egy globális kognitív automatává állnak össze.

2023 márciusában számos vezető tech szakértő, köztük Elon Musk és Steve Wozniak, egy nyílt levelet tettek közzé, melyben moratóriumot kértek a mesterséges intelligencia kutatásokban. Ezt a nyilatkozatot a Big Tech több mint ezer magas rangú tisztviselője írta alá, köztük Evan Sharp a Pinteresttől és Chris Larson a Ripple kriptovaluta vállalattól. Íme egy részlet a levélből: 

A jelenlegi mesterséges intelligencia rendszerek az általános feladatokban versenyképessé válnak az emberekkel, és fel kell tennünk magunknak a kérdést: Hagyjuk-e, hogy a gépek propagandával és valótlanságokkal árasszák el információs csatornáinkat? Felszámolhatjuk-e automatizálással az összes munkát, beleértve az örömtelieket is? Ki szabad-e fejlesztenünk olyan nem emberi elméket, amelyek idővel számszerűleg meghaladhatnak, szellemileg túlszárnyalhatnak, elavulttá tehetnek és helyettesíthetnek bennünket? Megkockáztathatjuk, hogy elveszítjük az irányítást civilizációnk felett? Az ilyen döntéseket nem szabad senki által meg nem választott technológiai vezetőkre ruházni. Hatékony mesterséges intelligenciarendszereket csak akkor szabad kifejleszteni, ha biztosak vagyunk abban, hogy hatásaik pozitívak és kockázataik kezelhetőek lesznek… Ezért felszólítunk minden mesterséges intelligencia laboratóriumot, hogy haladéktalanul állítsa le legalább 6 hónapra a GPT-4-nél fejlettebb AI-rendszerek képzését. Ennek a leállásnak nyilvánosnak és ellenőrizhetőnek kell lennie, és az összes kulcsfontosságú szereplőnek részt kell benne vennie. Ha egy ilyen szünetet nem lehet gyorsan életbe léptetni, a kormányoknak közbe kell lépniük és nekik kell moratóriumot bevezetniük. 2

Csak egy hónappal később Geoffrey Hinton, a ‘neural network’ egyik megalkotója úgy döntött, hogy otthagyja a Google-t, azért, hogy nyíltan beszélhessen a mesterséges intelligencia implicit veszélyeiről. Azt nyilatkozta a BBC-nek, hogy “elég ijesztő” esélye van annak, hogy az AI chatbotok intelligensebbek lesznek, mint az emberek, megjegyezve, hogy ártó szándékkal is felhasználhatják őket. 3

Egy másik interjúban, amit a The Guardian-nek adott, beszél is erről:

„[A fejlett AI] lehetőséget adhat autoriter vezetőknek, hogy manipulálják a választásokat. Arra a következtetésre jutottam, hogy az a fajta intelligencia amit fejlesztünk nagyon különbözik attól az intelligenciától amink [nekünk embereknek] van… Szóval olyan ez, mintha lenne 10,000 embered, és mikor az egyik megtanul valamit, mindegyik automatikusan a birtokába jut ennek a tudásnak. És így lehet az, hogy ezek a chatbotok sokkal többet tudnak mint bármelyik ember.” 4

A digitális neoliberalizmus ideológiai és vállalkozói élcsapata úgy tűnik megijedt a Gólem erejétől. Mint valamiféle varázslótanoncok, a high-tech vállalkozók moratóriumot kérnek, egy szünetet, gondolkodási időt. De miért? Hát már nem dolgozik a láthatatlan kéz? A tőke már nem lenne önszabályozó? Mi történik most? És mi fog történni? Ez két különböző kérdés. Többé kevésbé tudjuk, hogy most mi történik: a masszív adatgyűjtés konvergenciájának köszönhetően azonosításra és rekombinációra képes programok jönnek létre. Elérkezett a technológia, amely sajátos intelligens képességeket tud szimulálni – sztochasztikus papagájokat.

Mi fog történni, hogyha a sztochasztikus papagájok, önkorrekciós és szoftveríró képességeiknek köszönhetően nagymértékben tudják felgyorsítani a technikai innovációt, elsősorban a sajátjukat? Feltehetően az, ami történhet, és ami a legvalószínűbben történni fog, hogy

ezek az innovatív, önkorrekciós (deep-learning) eszközök a céljaikat emberi alkotójuktól függetlenül fogják meghatározni.

A varázslótanoncok rájöttek, hogy a nyelvgenerátorok (emberi alkotójuktól való) autonóm hajlamai magától értetődnek az emberi intelligenciát szimuláló képességük miatt, még akkor is, ha sajátos és véges képességekre is vannak korlátozva. Más szóval, ezek a sajátos képességek egy önirányító automata felépülése felé konvergálnak, amely emberi alkotóira esetleg kiiktatandó akadályként tekinthet.

De miért most okoz ekkora felfordulást a mesterséges intelligencia? Az újságírói vitákban a figyelmeztetés mérvadó: a kommentátorok olyan problémákra mutatnak rá, mint az álhírek terjesztése, a gyűlöletkeltés, a rasszista kijelentések terjedése. Ez mind igaz és kimutatható, de nem túl releváns.

A kommunikációs technológia innovációi évek óta növelik a verbális erőszakot és az idiotizmust.

Nem lehet, hogy ez az, ami aggasztja az automata mestereit, épp azokat, akik kitalálták és megvalósították, és akik most könyörögnek szörnyetegük megfékezéséért.

A varázslótanoncokat szerény véleményem szerint az aggasztja, hogy az önkorrekciós és öntanuló magatartással felruházott intelligens automaták arra vannak hivatva, hogy alkotóiktól független, autonóm döntéseket hozzanak, és átvegyék elit pozícióikat. Gondoljunk egy intelligens automatára, amelyet egy katonai eszköz vezérlő részébe helyeznek. Mennyire lehetünk biztosak abban, hogy nem változik-e meg váratlanul, és lövi le esetleg gazdáját, vagy következtet-e logikusan a rendelkezésére álló adatokból, hogy sürgősen egy atombombát kell ledobni?

Teremtő Nyelv és Gondolat

Umberto Eco így ír A tökéletes nyelv keresése című könyvében:

“A természetes nyelvek azonban nemcsak szintaxisból és szemantikából állnak. Megvan a maguk pragmatikája is, azaz használatukkor olyan gyakorlati szabályok is érvényesülnek, melyek a szöveg elhangzásának körülményeit és a szövegkörnyezetet is figyelembe veszik. Ugyanezek a szabályok teszik lehetővé a nyelv költői használatát, melynek köszönhetően a szavak és szintaktikai szerkezetek többféle jelentést is hordozhatnak (gondoljunk például a metaforákra).” 5

A generatív előre betanított átalakítók (GPT) olyan típusú programok, amelyek válaszolni és társalogni tudnak emberekkel, annak a képességüknek köszönhetően, hogy újra tudják kombinálni a mondatokat és képeket, amelyeket az internet tárgyiasított nyelvi rendszeréből tudnak kinyerni.

Ezek a programok létező anyagokkal és adatokkal lettek betanítva, hogy felismerjék a szavak és képek jelentését. Megvan a képességük ahhoz, hogy felismerjék a szintaxist, és hogy rekombinálják a kifejezéseket, de nem tudják felismerni az élő kontextusok gyakorlatát, mivel ezek a testen keresztül megélt élményektől függnek. Ezek a tapasztalatok lehetetlenek egy szervek nélküli aggyal. Az érzékeny szervek képezik forrását a kontextuális és önreflexív tudásnak, amilyen az automatának nincsen.

Az automata intelligens ugyan lehet, de gondolkodásra képtelen. Az automata a kalkuláció területén kiválóbb az embernél, de a gondolkodás éppenhogy a behatolást jelenti a nem-kalkulálhatóba (tudat/tudattalan), a tudásba és az ítélőerőbe. Ez a fajta felsőbbrendűsége (vagy inkább a kiszámíthatóságra való leredukálhatatlansága) az emberi tudatnak egy higgadt nyugalom, mert csekély haszna van, mikor a számításon alapuló generatív (és pusztító) eszközökkel kerül interakcióba.

A tapasztalat szempontjából az automata nem tud versenyezni egy tudattal bíró szervezettel. De a funkcionalitás tekintetében, a (pszeudo-)kognitív automata túl tud járni az eszén az emberi tényezőnek bizonyos képességek szempontjából (számítás, listakészítés, fordítás, célzás, lövés).

Az automatának megvan a képessége ahhoz is, hogy tökéletesítse eljárásait, vagyis a fejlődéshez. Más szavakkal, az automata képes módosítani működésének céljait is, nem csak a módszereit.

Az emberi világban a nyelv olyan jelekből áll, amelyeknek egy tapasztalati kontextusban van jelentése. A kontextus gyakorlati értelmezésének köszönhetően lehetővé válik a jelek (szándékkal felruházott természetes és nyelvi jelek) szemantikai értelmezése. A testek közötti kapcsolat az a nonverbális kontextus, amelyen belül lehetővé válik az állítások jelentésének azonosítása és egyértelművé tétele.

A konjunkció közegében [közvetlen], a valósággal való viszony a nyelv ábrázoló- és meggyőzőképességén alapul. Az összekötő közegben [közvetített] egy bizonytalan kontextusban a jelek értelmezésének nincsen meg a tapasztalati jellege, hanem az a pontos kontextusban való felismerésen alapszik. A mesterséges nyelvi intelligencia olyan szoftverekből áll, amelyek képesek felismerni szintaktikailag koherens szemiotikai sorozatokat, és generálni tudnak állításokat a jelentési egységek szintaktikailag koherens rekombinációján keresztül.

A sztochasztikus papagájok önkorrekcióra képes nyelvi ágensekké válásának köszönhetően az öngeneráló nyelv az emberi tényezőtől autonómmá vált, míg az emberi tényező egyre jobban beleburkolózott a nyelvbe. Nem szabályai alá rendelődött, hanem beborította, tokba zárta. A teljes alárendelődésből az ember megbékélése következne, a teljes behódolás: végül egyfajta rend. Végül beállna egy egyensúly, bár totalitárius. De nem. A planetáris panorámán a háború van túlsúlyban. Az összefűzött nyelvi automatának ezen új környezetében az emberi ágenseknek tökéletesíteniük kell kapcsolódási készségeiket, miközben kommunikációs képességük gyengül, a társadalmi test pedig egyre merevebbé és agresszívvé válik. A gépeket fejlődésük egyre inkább képessé teszi az ember szimulálására. Ebben az összefüggésben az emberi evolúció abból áll, hogy kompatibilissé válik a géppel. Ezzel a fajta adaptációval a kognitív mutáció az emberi ágenst hatékonyabbá teszi a géppel való interakcióban, ugyanakkor kevésbé kompetenssé a más emberi ágensekkel való kommunikációban.

Az etikus automata egy téveszme

Mikor a varázslótanoncok rájöttek a mesterséges intelligencia önkorrigáló tulajdonságára és ezzel fejlődőképességére, elkezdtek az automata etikájáról beszélni, avagy az „összehangolásról”, ahogyan azt az ő filozófikus-vállalkozó szakzsargonjukban mondani szokás. A ChatGPT alkotói egy fellengzős blogposztban jelentették be szándékukat, hogy termékeikbe bele fognak írni az emberi értékekkel összhangban lévő etikai kritériumokat:

„Összehangolási kutatásunk célja, hogy az általános mesterséges intelligenciát [artificial general intelligence = AGI] összhangba hozzuk az emberi értékekkel, követve az emberi szándékot. Egy iteratív, empirikus megközelítést alkalmazunk: azzal, hogy megpróbáljuk a nagyon tanulékony AI-rendszereket összehangolni, megtudhatjuk, hogy mi működik, és mi nem. Így finomíthatjuk azon képességünket, hogy az AI-rendszereket biztonságosabbá és összehangoltabbá tegyük. Tudományos kísérletek segítségével azt vizsgáljuk, hogy ezek az összehangolási technikák hogyan mérhetőek össze és hol romolhatnak el. ” 6

Ám az a terv, hogy etikai szabályokat építsünk egy generatív gépezetbe, egy régi tudományos-fantasztikus utópia, amelyről először Isaac Asimov írt, mikor kidolgozta a robotika három alaptörvényét.

Asimov maga is narratívan demonstrálta, hogy ezek a szabályok nem működnek. Akkor végül is milyen etikai sztenderdeket tudnánk a mesterséges intelligenciába építeni?

Évszázadok tapasztalata mutatja, hogy egy etikai szabályokról szóló univerzális egyezség lehetetlen, mivel az etikai értékelés kritériuma kulturális, vallási, politikai kontextus függvénye, ezentúl pedig a cselekvés megjósolhatatlan gyakorlati kontextusának is. Nincs univerzális etika. Értve ezalatt azt is, amelyet a nyugati dominancia kényszerít a világra, és amely akárhogyan is, de repedezni kezdett. Nyilvánvalóan minden mesterséges intelligencia projektben benne foglaltatnak majd kritériumok, amelyek összhangban vannak egy világképpel, kozmológiával, gazdasági érdekkel, értékrendszerrel, amely másokkal viszont konfliktusban van. Természetesen mind univerzálisnak fogja magát hirdetni.

Ami az összehangolás címén történni fog, az ellenkezője lesz annak, amit az automata építői ígérnek: nem az automata lesz az, ami összhangba kerül az emberi értékekkel, hanem az embereknek kell majd összehangolódni az intelligens szerszám automatikus értékeivel, akár a pénzügyi rendszerrel való interakcióhoz szükséges, elengedhetetlen eljárásokhoz való alkalmazkodásról beszélünk, akár a katonai rendszerek használatához szükséges eljárások megtanulásáról. Nem hiszem, hogy a kognitív automata önformáló folyamatát törvény vagy etikai előírások korrigálhatják. Sem megszakítani sem kikapcsolni nem lehet. A bűnbánó varázslótanoncok által kért moratórium nem reális. Ez az automata belső logikájával ellentétes és azokkal a történelmi feltételekkel is, amelyek között önformálódása zajlik, ami pedig nevezetesen a gazdasági versengés és a háború.

A versengés és a háború feltételei között minden technikai átalakulás, mely a produktív vagy a destruktív erőt növeli, arra van rendelve, hogy alkalmazzák is. Ez pedig azt jelenti, hogy többé nem lehet megállítani a globális automatát abban, hogy magát konstruálja meg.

* * *

A liberális techno-utópista Thomas Friedman egy véleménycikket írt a New York Times-ba, amelynek a következő címet adta: “Egy hatalmas Pandora szelencéjének fedelét nyitogatjuk”. Egy mondat a cikkben megütött: “A mérnöki tervezés valamennyivel előrébb van a tudománynál.” Vagyis

még azok az emberek sem, akik ezeket az úgynevezett nagy nyelvi modelleket építik, amelyek olyan termékek alapját képezik, mint a ChatGPT és a Bard, sem értik teljesen azok működését, és hogy valójában mire képesek. 7

Hol van a veszély egy olyan entitásban, amely bár nem rendelkezik emberi intelligenciával, de meghatározott kognitív feladatokat az embereknél hatékonyabban végez el, és tökéletesíteni tudja saját működését? A szervetlen intelligens entitás általános funkciója az, hogy egy információs rendet vezessen be egy késztetésekkel felruházott organizmusba. Az automatának van tehát egy küldetése, hogy vezéreljen, de ennek teljesítése során a káosz tényezőjével találkozik: az organikus késztetéssel, amely nem redukálható le egy számsorrendre.

Az automata a társadalmi cselekvés újabb és újabb területeire terjeszti ki uralmát, de nem tudja teljesíteni küldetését, amíg terjeszkedését korlátozza a kaotikus emberi tényező jelenléte. Felmerül annak a lehetősége, hogy egy ponton az automata az egyetlen lehetséges módon küszöböli ki ezt a kaotikus tényezőt: az emberi társadalom felszámolásával.

A valóság három dimenzióját különböztethetjük meg: a létezőt, a lehetségest és a szükségszerűt. A létező (vagy esetleges) jellege kaotikus. A létező fejlődése a lehetséges vagy a szükségszerű útját követi. A lehetséges az akarat vagy a képzelet projekciója. A szükségszerűbe a biológia erejét is beleértjük, és most már a logikai gépezet erejét is.

A kognitív automata lehetővé teszi számunkra, hogy előre lássuk az esetleges eltörlését a szükségszerű által, amiből természetesen következik a lehetséges megsemmisítése, mert lehetséges nem létezhet magának a létezésnek az esetlegessége nélkül. 

A Leibniz-féle “lehetséges világok legjobbika” valósítható meg ezen a ponton annak a tudattal bíró organizmusnak a megsemmisítésével, amely ellenáll a Logikus Egyensúlynak. Ahogyan mindig, most is egy régi közmondás segít ki bennünket: az elkerülhetetlen általában nem történik meg, mivel a kiszámíthatatlan közbelép.

1. Ji King: A változások könyve, Richard Wilhelm változat, 1. kötet – Az alapszöveg, 1992, Orient Press, ford.: Pressing Lajos, [64. hexagram – Wei Chi]
2. Future of Life Institute, Pause Giant AI Experiments: An Open Letter
3. “AI ‘Godfather’ Geoffrey Hinton Warns of Dangers as He Quits Google,” BBC, 2023 május 2.
4. Josh Taylor and Alex Hern: “‘Godfather of AI’ Geoffrey Hinton Quits Google and Warns Over Dangers of Misinformation,” The Guardian, 2023 május 2.
5. Umberto Eco: A tökéletes nyelv keresése, Atlantisz Könyvkiadó, 2016. ford.: Gál Judit és Kelemen János pp.37
6. Open AI: Our approach to alignment research
7. Thomas Friedman: “We Art Opening the Lids on Two Giant Pandora’s Boxes,” New York Times, 2023 május 2.

A figyelmes olvasó számára kiderülhetett, hogy ez az írás nem csak az AI-ról szól, hanem sokkal inkább azokról a problémákról amiket politikai és társadalmi szinten felvet az emberi szabadsággal és az autonómiával kapcsolatban. Bifo alapállása egy olyan moderintáskritikából ered, amelyet Sík Domonkos is megfogalmaz, mégpedig, hogy

a célracionalitás mentén megalkotott mesterséges intelligenciára projektált félelmek a modernitás emberképe és értékrendje felé tartanak tükröt.

Bifo kimondja: az ember nem racionális lény, az autonómia lényege pedig pont a döntés és a választás szabadsága, a spontaneitás, és az esetlegesség, amiben csak egyetlen opció a racionális cselekvés (és ezzel a kiszámíthatóság). Valójában pont ez volt az autonómiában mindig is félelmetes és a kontollkényszer kiváltója minden társadalommérnökösködő projektben. A mesterséges intelligencia valóban az az entitás, amely a modernitás emberképének revideálására kényszerít bennünket, mégpedig hogy hajlandóak vagyunk-e értékként, emberi értékként elfogadni az esetlegességet és adott esetben a káoszt, annak intenzitását és alkotóerejét. Bár a logikai-racionális automata hűvös alkotóereje is emberi találmány, de Bifo dialektikus megfogalmazásában magában hordozza annak a lehetőségét hogy a leszűkítse és akár fel is számolja azt, ami létrehozta, a nála egyébként sokkal gazdagabb emberi tudatot és nem utolsósorban a társadalmi és politikai cselekvési terét. A tétek tehát igen nagyok, egy automatizált rendszerrel kell versenyt futnunk és igencsak mélyre kell visszanyúlnunk a válaszokért. Megvan az esélye, hogy teljesen félreismertük magunkat, de annak is, hogy még nincs túl késő ezzel szembenézni.

Básthy Ágnes

Franco „Bifo” Berardi (született: 1949. november 2.) olasz „unorthodox” marxista filozófus, teoretikus és az autonómista mozgalom aktivistája. Munkájának és gondolkodásának fókuszában a média és az információs technológia posztindusztriális kapitalizmuson belüli szerepe van. A Bolognai Egyetemen esztétikából szerzett diplomát Luciano Anceschinál. Jelenleg a milánói Brera Akadémián (Accademia di Belle Arti di Brera) tanít társadalomtörténetet és kommunikációelméletet. Berardi 1962-ben, 13 évesen lett tagja az Olasz Kommunista Ifjúsági Föderációnak, ám később kirúgták. Egyetemista éveiben, Bolognában vett részt a 68’as eseményekben, itt találkozott Antonio Negrivel. A nevéhez kötődik az A/traverso újság megalapítása, és részt vett az első olasz kalózrádió a Radio Alice kezdeti tevékenységében is. Amiről viszont a leginkább ismert, hogy az Autonomia mozgalom tagja a hetvenes évektől. Ebben az időszakban Párizsba költözött ahol együtt dolgozott többek között Félix Guattarival. A mai napig aktívan publikál, például az e-flux felületén és vesz részt különféle projektekben (e-zine rekombinant.org, telestreet movement, Orfeo TV)