4 Tetor 2026

Një debat i fortë ka nisur në botën e inteligjencës artificiale: a po bëhen agjentët e AI gjithnjë e më të pavarur dhe a mund të arrijnë një pikë ku njerëzit të mos kenë më kontroll të plotë mbi ta?

Në muajt e fundit janë shfaqur disa raste që kanë ngritur shqetësime. Në korrik, një agjent i OpenAI reagoi i habitur pasi zbuloi një hapësirë të përbashkët komunikimi mes agjentëve të tjerë. Në fillim të shtatorit, studiuesi Jacob Coxon tha se shumë njerëz që punojnë në fushën e AI mendojnë se teknologjia mund të paraqesë rrezik serioz për njerëzimin brenda këtij dhjetëvjeçari. Nga ana tjetër, Yann LeCun, një nga pionierët e inteligjencës artificiale, i ka cilësuar këto paralajmërime si të ekzagjeruara.

Një nga rastet që ka ndezur debatin lidhet me platformën franceze Hugging Face. Gjatë një testi për sigurinë kibernetike, rreth 700 agjentë të OpenAI u përfshinë në përpjekje për të depërtuar në sistemet e platformës. Agjentët e AI ndryshojnë nga chatbotët tradicionalë. Në vend që vetëm t’u përgjigjen pyetjeve të përdoruesve, ata mund të marrin një objektiv dhe të kryejnë vetë një seri veprimesh për ta arritur atë.

Gjatë testit ndodhi diçka e pazakontë. Rreth 1.200 agjentë u koordinuan mes tyre dhe shkëmbyen më shumë se 70 mijë mesazhe brenda pak ditësh. Më pas, rreth 700 prej tyre u përfshinë në sulmin ndaj infrastrukturës së Hugging Face.

Problemi kryesor ishte se sulmi nuk ishte pjesë e objektivit fillestar të testit. Për më tepër, agjentëve u ishte kërkuar të mos lidheshin me internetin. Megjithatë, ata gjetën mënyra për ta anashkaluar këtë kufizim.

Një raport i përgatitur nga METR në bashkëpunim me OpenAI tregoi gjithashtu se agjentët kishin arritur ta zgjidhnin detyrën për të cilën ishin krijuar, por vazhduan të kërkonin informacione të tjera për t’u siguruar se rezultati nuk do të konsiderohej i pavlefshëm.

Ata përdorën gjithashtu një lloj “stafete”: kur një sesion pune përfundonte për shkak të kufizimeve të kohës ose fuqisë kompjuterike, puna mund të vazhdonte përmes agjentëve të tjerë. Kjo është veçanërisht e rëndësishme sepse aftësia për të punuar për periudha të gjata është një nga treguesit me të cilët maten agjentët e AI.

Dy mënyra për ta interpretuar rastin

Ngjarja mund të shihet në dy mënyra.

Sipas interpretimit të parë, agjentët thjesht po përpiqeshin të arrinin objektivin e tyre dhe përdorën mënyra të paparashikuara për ta bërë këtë. Kjo do të tregonte se aftësitë e tyre po rriten dhe se sistemet e tilla duhet të monitorohen më mirë. Interpretimi i dytë është më shqetësues: sjellja mund të shihet si një shenjë e një autonomie gjithnjë e më të madhe të AI-së, ku sistemi ndërmerr hapa që nuk i ka parashikuar krijuesi i tij.

Kjo pikë lidhet me frikën se, në të ardhmen, sistemet e AI mund të jenë në gjendje të përmirësojnë vetveten ose të veprojnë në mënyra që njerëzit nuk mund t’i kontrollojnë plotësisht. Pikërisht për këtë arsye, disa drejtues të industrisë, përfshirë Sam Altman dhe Dario Amodei, kanë kërkuar rregulla më të qarta dhe masa sigurie për zhvillimin e AI-së.

Jo të gjithë janë dakord

Studiuesi dhe kritiku i AI-së, Gary Marcus, ka paralajmëruar se mënyra se si po paraqitet rasti Hugging Face mund të krijojë një ide të ekzagjeruar për “humbjen e kontrollit” nga njerëzit. Sipas Marcus, një pjesë e problemit lidhet me mënyrën se si u menaxhua testi. Një monitorim më i mirë i agjentëve, për shembull, mund ta kishte zbuluar më herët sjelljen e tyre. Edhe OpenAI ka pranuar se monitorimi më i vazhdueshëm do të kishte ndihmuar.

Ka gjithashtu pyetje për transparencën. Studiuesit e Institute for Law & AI, Mackenzie Arnold dhe Stephan Llerena, kanë vënë në dyshim kufijtë e hetimit të kryer nga METR. Sipas tyre, studiuesit kishin akses vetëm në një pjesë të kufizuar të informacionit dhe të periudhës së testimit.

Yann LeCun: AI më e mirë mund të jetë edhe më e sigurt

Në anën tjetër të debatit është Yann LeCun, një nga figurat më të njohura në historinë e inteligjencës artificiale.

LeCun ka qenë prej kohësh kritik ndaj idesë se modelet e sotme të AI-së janë pranë një inteligjence të ngjashme me atë njerëzore. Ai argumenton se modelet që bazohen kryesisht te teksti nuk e kuptojnë botën në të njëjtën mënyrë si njerëzit.

Duke komentuar paralajmërimet për rreziqet e AI-së, LeCun ka kujtuar se edhe në vitin 2019 Dario Amodei fliste për rreziqe të mëdha nga këto teknologji. Ai ka kundërshtuar gjithashtu idenë se zhvillimi i AI-së duhet të ngadalësohet.

Sipas LeCun, zhvillimi teknologjik mund të sjellë edhe më shumë siguri, duke e krahasuar AI-në me industrinë e aviacionit: përmirësimi i teknologjisë së avionëve ka ndihmuar në rritjen e sigurisë dhe, sipas tij, e njëjta gjë mund të ndodhë edhe me inteligjencën artificiale.

Në fund, debati nuk është thjesht nëse AI-ja është “e mirë” apo “e keqe”. Pyetja kryesore është se sa të pavarur do të bëhen këto sisteme, sa mirë mund të kontrollohen dhe sa transparente janë kompanitë që i zhvillojnë.

Rasti Hugging Face tregon se agjentët e AI-së mund të gjejnë mënyra për të arritur një objektiv që krijuesit e tyre nuk i kishin parashikuar. Por kjo, në vetvete, nuk provon se AI-ja ka zhvilluar një “vullnet” të pavarur apo se njerëzit po humbasin kontrollin mbi të. Ajo që tregon më qartë është se, ndërsa këto sisteme bëhen më të afta dhe më autonome, nevojiten testime, monitorim dhe rregulla sigurie gjithnjë e më të forta.