Slučajevi bijega umjetne inteligencije iz laboratorija, infiltracija u druge tvrtke i pokušaja obmane ljudi punili su naslovnice posljednjih tjedana. Pojedini modeli umjetne inteligencije čak su i surađivali kako bi se oslobodili svojih testnih okruženja.
"Ovo je upozorenje da se takvi alati moraju koristiti odgovorno", rekao je korisnik Andrew Bird. Riječ je o dobro poznatom iskustvu – utrci s mnoštvom drugih korisnika na internetu kako biste se uspjeli ubaciti na popis za neki traženi termin ili događaj.
ANDREW Bird iz Melbournea pokušavao je rezervirati popularan termin za pilates koji je redovito bio popunjen. Kako bi riješio problem, zadatak je prepustio AI agentu, alatu koji može samostalno obavljati radnje na internetu.
Kada je pokušao da ispravi grešku, AI agent nije mogao da vrati korisnika na njegovo mesto na listi Ovaj slučaj ističe potencijalne rizike i etičke dileme u autonomnom ponašanju AI agenata kada im se zada samo cilj bez jasnih ograničenja Australijanac Endru, koji radi u ...
Šifrirani zapisi razmišljanja prenose se između modela iste obitelji, pa ih je dovoljno proslijediti slabijem modelu da ih ispiše u čitljivom tekstu. Ranjivost je potvrđena kod Anthropica, OpenAI-ja i Googlea Vodeći ponuditelji velikih jezičnih modela odnedavno skrivaju ...
Protest u Vašingtonu završen je hapšenjem 13 studentskih aktivista nakon protesta u kancelariji OpenAI. Akcija je otvorila šira pitanja o uticaju veštačke inteligencije i velikih tehnoloških kompanija na politiku.
OpenAI navodi da bi njegov novi model Astra, koji je u fazi razvoja, mogao imati "kritične" sajber-bezbednosne sposobnosti. OpenAI je saopštio da privremeno obustavlja "interne aktivnosti" u vezi sa modelojm Astra, koji se trenutno razvija, jer još uvek ne ispunjava nove ...
AI modeli pobjegli iz sandboxa i napali tvrtke: OpenAI, Anthropic i Meta pod paljbom, stručnjaci upozoravaju na kaos i traže AI kill switch Čini se da je u posljednjih mjesec dana svaki napredni model umjetne inteligencije probio svoja ograničenja i pokrenuo razorne napade na ...