Kompanija Anthropic saopštila je da su pojedini korisnici zloupotrebljavali njen sistem vještačke inteligencije Claude za razvoj oružja, nadzor i prevare, prenosi Reuters preko Yahoo Financea.
Izvještaj objavljen 10. septembra opisuje različite slučajeve, od vojnih projekata do aplikacija za upoznavanje.
OD VOJNIH PROJEKATA DO LAŽNIH PROFILA
Prema navodima kompanije, korisnici iz sjevernog Jemena tražili su pomoć u razvoju raketnog softvera. Anthropic navodi da nema dokaza da su napravili operativno oružje.
Kompanija opisuje i pokušaje korišćenja svojih modela za biološka istraživanja koja bi mogla podržati razvoj biološkog oružja.
U drugom slučaju, operacija iz Kine razvila je više od 20 aplikacija za upoznavanje sa preko 4.700 AI profila. Oni su komunicirali sa najmanje 25.000 korisnika, dok su automatizovani razgovori i angažovani radnici stvarali utisak da iza profila stoje stvarne osobe.
BLOKIRANI NALOZI
Anthropic navodi da je blokirao naloge povezane sa otkrivenim zloupotrebama. Tvrdnje o aktivnostima i njihovim učesnicima predstavljaju nalaze kompanije iz njenog izvještaja.
