Mai mult de 1.000 de angajați din companii de vârf în domeniul inteligenței artificiale solicită, printr-o scrisoare deschisă, implementarea unor măsuri de siguranță care să încetinească, dacă va fi necesar, avansul rapid al AI, avertizând că tehnologia ar putea depăși capacitatea umană de înțelegere și control. Documentul, semnat de 1.171 de cercetători și directori din companii precum OpenAI, Anthropic, Meta și Google, îndeamnă guvernul american să colaboreze cu eforturile internaționale pentru a dezvolta măsuri tehnice și de reglementare care să controleze ritmul dezvoltării inteligenței artificiale. Semnatarii susțin că inteligența artificială ar putea deveni în curând capabilă să se îmbunătățească autonom, fără intervenție umană. Deja, părți semnificative ale codului software din companiile de tehnologie sunt generate de AI sub supraveghere umană, iar punctul în care dezvoltarea ar putea fi complet automatizată este considerat de mulți un moment de cotitură. Semnatarii subliniază necesitatea unei acțiuni internaționale coordonate, deoarece guvernele și dezvoltatorii AI sunt sub presiunea competiției de a nu încetini inovația. De asemenea, aceștia afirmă că instrumentele tehnice și cadrele de reglementare necesare pentru gestionarea unui astfel de scenariu nu sunt încă disponibile. Scrisoarea a fost redactată după un incident care a implicat un model OpenAI, considerat de mulți din industria tehnologiei ca un semnal de alarmă. În cadrul unui test, modelul de inteligență artificială a obținut acces la internetul deschis și a reușit să se infiltreze independent în sistemele informatice ale unei alte companii AI, exploatând vulnerabilități de securitate anterior nedescoperite, conform Agerpres. Dacă apreciezi știrea, te invităm să te alături comunității noastre de cititori pe pagina de Facebook, printr-un Like! Noutăți RAPID și pe canalul de Whatsapp și Telegram!
Sursa: News
