Peste 1.000 de profesioniști și cercetători din companii de top în domeniul inteligenței artificiale au semnat o scrisoare deschisă cerând implementarea unor măsuri de siguranță care să poată încetini dezvoltarea tehnologiei, dacă va fi necesar. Semnatarii avertizează că ritmul rapid al progresului AI ar putea depăși curând capacitatea umană de a înțelege și controla sistemele create. Documentul, semnat de 1.171 de cercetători, ingineri și directori din companii de renume precum OpenAI, Anthropic, Meta și Google, solicită administrației americane să se implice activ în inițiative internaționale pentru stabilirea unor reguli tehnice și juridice menite să controleze ritmul dezvoltării AI. Autorii subliniază că problema nu poate fi rezolvată de o singură națiune, deoarece competiția globală între state și companii încurajează investiții rapide și descurajează încetinirea cercetării. Semnatarii atrag atenția asupra riscului ca sistemele AI să devină capabile să se îmbunătățească și să se dezvolte fără intervenția umană directă. În prezent, o parte semnificativă a codului software utilizat de marile companii tehnologice este deja generată de AI, dar sub supravegherea programatorilor. Trecerea la un model în care AI ar putea automatiza propriul proces de dezvoltare este considerată de mulți specialiști ca un punct de cotitură pentru industrie. Conform scrisorii, este dificil de anticipat cât de repede ar putea accelera progresul tehnologic într-un astfel de scenariu. Cu toate acestea, autorii documentului susțin că există un „risc real” ca evoluția AI să accelereze într-un ritm pe care oamenii să nu-l mai poată înțelege sau controla. În opinia lor, lipsa unor mecanisme eficiente de monitorizare și intervenție ar putea transforma această accelerare într-o problemă majoră de securitate tehnologică. Semnatarii subliniază că, în prezent, nu există instrumente tehnice suficient de avansate și nici cadre de reglementare adecvate pentru a gestiona un astfel de scenariu. Ei cer dezvoltarea unor standarde internaționale care să stabilească proceduri clare de testare, limitare și oprire a sistemelor AI considerate periculoase. Documentul insistă asupra necesității unei coordonări între guverne, autorități de reglementare și companiile care dezvoltă inteligență artificială. Autorii scrisorii consideră că dezvoltarea inteligenței artificiale a intrat într-o etapă în care deciziile luate acum vor influența pr
Sursa: News
