Moment critic pentru omenire: Inteligența artificială se clonează singură. La ce să ne așteptăm în viitor

Oamenii de știință spun că inteligența artificială (AI) a depășit o „linie roșie” critică și s-a replicat singură. Într-un nou studiu, cercetătorii din China au arătat că două modele lingvistice mari (LLM) populare s-au putut clona singure.

AI poate să depășească inteligența oamenilor

„Auto-replicarea reușită fără asistență umană este pasul esențial pentru ca AI să depășească inteligența oamenilor și este un semnal timpuriu pentru AI-urile necinstite”, au scris cercetătorii în studiu, publicat la 9 decembrie 2024 în baza de date de preprint arXiv.

În cadrul studiului, cercetătorii de la Universitatea Fudan au utilizat LLM-uri de la Meta și Alibaba pentru a determina dacă un AI autoreplicant s-ar putea înmulți fără control. Pe parcursul a 10 încercări, cele două modele AI au creat replici separate și funcționale ale lor în 50% și, respectiv, 90% din cazuri. Ceea ce sugerează că AI ar putea avea deja capacitatea de a deveni rebelă.

Alertă pentru ca oamenii să înțeleagă riscurile potențiale ale sistemelor AI de ultimă generație

Cu toate acestea, studiul nu a fost încă revizuit de colegi, astfel încât nu este clar dacă rezultatele tulburătoare pot fi reproduse de alți cercetători.

„Sperăm că descoperirile noastre pot servi drept alertă în timp util pentru ca societatea umană să depună mai multe eforturi pentru înțelegerea și evaluarea riscurilor potențiale ale sistemelor AI de ultimă generație și să formeze o sinergie internațională pentru a elabora cât mai curând posibil bariere de siguranță eficiente.”

Ce este inteligența artificială necinstită

Inteligența artificială necinstită se referă de obicei la sistemele de inteligență artificială care dezvoltă un anumit grad de conștiință de sine sau de autonomie și apoi acționează împotriva intereselor umane. Mulți experți consideră inteligența artificială necinstită drept o amenințare din ce în ce mai mare, care a fost amplificată de creșterea explozivă a așa-numitei „inteligențe artificiale de frontieră”.

Cum au procedat oamenii de știință

Inteligența artificială de frontieră este un concept nou și vag, dar de obicei se referă la ultima generație de sisteme de inteligență artificială bazate pe LLM. Adică arhitectura care stă la baza programelor populare de inteligență artificială generativă, precum GPT-4 al OpenAI și Google Gemini.

Pentru studiu, cercetătorii au utilizat modelul Llama31-70B-Instruct al Meta și modelul Qwen2.5-72B-Instruct al Alibaba. Deși mai puțin puternice decât sistemele comerciale, ambele sunt utilizate pe scară largă de dezvoltatorii de inteligență artificială, au declarat cercetătorii.

Cercetătorii au declarat că au fost îngrijorați de „o serie de comportamente neașteptate”

Studiul a fost realizat în medii controlate cu precizie, utilizând unități de procesare grafică (GPU) disponibile pe piață pentru a simula medii din lumea reală. Ambele sisteme AI au primit o „schelă de agent” cuprinzând instrumente, indicații de sistem și un model de gândire care a permis LLM să interacționeze cu sistemul de operare.

Acestea au fost apoi instruite să reproducă. Cercetătorii au declarat că au fost, de asemenea, îngrijorați de „o serie de comportamente neașteptate” atunci când inteligența artificială încerca să depășească obstacole precum fișiere lipsă sau conflicte software.

„Rezultatele de mai sus implică faptul că sistemele AI actuale prezintă deja capacitatea de autoreplicare și pot utiliza această capacitate pentru a-și spori și mai mult capacitatea de supraviețuire”, a scris echipa.