„Roboţii ucigași” tulbură lumea știinţifică

239

 

Academicieni din 30 de ţări, specializaţi în domeniul inteligenţei artificiale (AI), boicotează o universitate sud-coreeană care colaborează cu compania producătoare de armament Hanwha Systems, pentru a dezvolta tehnologii care pot duce la apariţia de „roboţi ucigaşi”.

Peste 50 de cercetători au semnat o scrisoare deschisă care încurajează boicotarea Institutului de Știinţă și Tehnologie din Coreea (KAIST) și a companiei Hanwha Systems. Cercetătorii au declarat că nu vor colabora cu universitatea și nici nu vor găzdui vizitatori de la KAIST din cauza temerilor că au încercat să „accelereze cursa dezvoltării armelor autonome”.

„Există foarte multe lucruri bune care se pot face cu ajutorul inteligenţei artificiale, care să salveze vieţi, inclusiv într-un context militar. (…) Dar aici vorbim despre un parteneriat între o universitate foarte respectată și o companie cu etici dubioase, care continuă să violeze normele internaţionale”, a declarat Toby Walsh, organizatorul boicotului și profesor la Universitatea din New South Wales.

„Dezvoltarea acestei tehnologii, a armelor autonome, (…) va permite războaielor să capete o amploare mai mare ca oricând. Armele autonome vor avea potenţialul de a deveni arme de teroare”, a mai afirmat Walsh.

Boicotul a fost solicitat înaintea unei întâlniri a Organizaţiei Naţiunilor Unite de la Geneva privind armele autonome. Scrisoarea a fost semnată de către 123 de state membre ONU și de experţi în domeniul informaticii și al roboticii. Deși există potenţiale utilizări bune ale roboticii și inteligenţei artificiale în cadrul armatei, și anume înlocuirea oamenilor din sarcinile periculoase, cum ar fi curăţarea câmpurilor minate, utilizarea AI în unităţi militare a provocat temeri și a generat întrebări cu privire la acuretaţea acestor arme și la capacitatea lor de a distinge inamicii de civili.

Atunci când KAIST a deschis Centrul de Cercetare pentru Convergenţa Apărării Naţionale și a Inteligenţei Artificiale, președintele KAIST, Sung-Chul Shin, a anunţat că centrul se va concentra pe sisteme de comandă și de decizie bazate pe AI, algoritmi de navigaţie pentru submarine fără pilot, sisteme de instrucţie pentru aeronave smart și sisteme de urmărire și tehnologie de recunoaștere, toate având la bază înteligenţa artificială, notează The Guardian.

Între timp, acest anunţ a fost șters, iar oficialii KAIST au reacţionat rapid la publicarea scrisorii deschise, dând asigurări că nu se vor angaja în dezvoltarea sistemelor de arme autonome letale. Președintele KAIST, Sung-Chul Shin, a declarat că universitatea a fost conștientă de preocupările etice privind inteligenţa artificială, adăugând că „apreciem drepturile omului și standardele etice la un nivel foarte înalt. (…) Reafirm încă o dată că KAIST nu va desfășura activităţi de cercetare contra demnităţii umane, inclusiv arme autonome fără control uman semnificativ.”

Hanwha este unul dintre cei mai mari producători de arme din Coreea de Sud și produce muniţie de tip cluster (un ansamblu de bombe de mici dimensiuni care se declanşează fie prin aerul scos de aeronave, fie sunt trase de artileria de rachete aeriene sau de sistemul de rachete de la sol), care este interzisă în 120 de ţări în baza unui tratat internaţional. Însă Coreea de Sud, împreună cu SUA, Rusia și China nu sunt semnatare ale convenţiei. Astfel că, prin intermediul unei alte companii producătoare de armament, Dodaam Systems, Coreea de Sud produce deja un „robot de luptă” complet autonom, staţionar, capabil să detecteze ţinte de până la 3 km distanţă.

Tot ca o formă de protest împotriva implicării inteligenţei artificiale în proiecte militare a fost și mișcarea a peste 3.000 de angajaţi care au denunţat într-o scrisoare publică cooperarea Google cu Pentagonul în domeniul tehnologiei inteligenţei artificiale.

Departamentul american al Apărării a contractat Google în cadrul unui proiect numit „Marven”, care vizează „amplificarea abilităţilor sistemelor militare de a detecta obiecte”, a explicat un oficial militar. Detalii ale contractului au determinat angajaţi ai Google să ceară anularea acordului şi asumarea angajamentului din partea companiei de a nu produce tehnologie militară în viitor.

Google a răspuns, precizând că acordul de colaborare cu Pentagonul este „configurat în mod specific pentru a avea obiective neofensive, (…) proiectul având rolul de a salva vieţi şi de a scuti oamenii să desfăşoare activităţi incomode”, citează Mediafax. Totuși, din scrisoare reiese că angajaţii Google se tem că implicarea în aplicaţii de tip militar riscă să afecteze imaginea companiei.