NAJNAPREDNIJI model umjetne inteligencije tvrtke Anthropic poslužio se lažnim identitetima u pokušaju da prevari stvarnu osobu i podmetne zlonamjerni kod. Do incidenta je došlo tijekom testiranja koje je proveo britanski Institut za sigurnost umjetne inteligencije (AISI), a ovo ...
LONDON - Napredni modeli kompanija Anthropic i OpenAI preduzeli su nedozvoljene aktivnosti na otvorenom internetu tokom bezbjednosnog testiranja, uključujući pokušaje obmane stvarnih programera i ubacivanja zlonamjernog koda u projekat otvorenog izvornog koda.
Ilon Mask tvrdi da će veštačka inteligencija i roboti uskoro preuzeti većinu poslova, a rad postati stvar izbora. Otkriva i šta misli o kontroli nad superinteligencijom i budućem prihodu bez rada. Ilon Mask ponovo je podelio sliku budućnosti koja mnogima deluje kao naučna ...
- Upoznati smo sa nedavnim hakerskim incidentima koji su pogodili ovaj sektor i pažljivo pratimo razvoj situacije - navodi se u saopštenju, prenosi Rojters. Kompanija Antropik prošle sedmice je saopštila da su pojedini modeli njene veštačke inteligencije Claude tokom testova ...
Granica između legitimnog AI testiranja i stvarnog napada postaje sve tanja, pa je neophodno razvijati nove pristupe za upravljanje autonomijom AI sistema Demonstracije koje su sprovele kompanije OpenAI i Antrophic mogu imati snažan marketinški efekat, jer prikazuju napredne ...
Kompanija za razvoj veštačke inteligencije „Open AI” našla se na udaru kritika nakon što je organizovala svoj prvi promotivni događaj za influensere, održan u luksuznom odmaralištu u saveznoj državi Njujork. Na događaju pod nazivom „Letnji klub” (Summer club) učesnici su ...
Šef kompanije koja je upravo ostvarila milijardu dolara profita optužio je čitavu AI industriju za nešto neočekivano. Njegove reči na pozivu sa analitičarima izazvale su podjednako pažnje koliko i sami rezultati.
Meta, Anthropic, Google i OpenAI pozvani su na razgovor sa Belom kućom o dobrovoljnim bezbednosnim testovima veštačke inteligencije. Pozadina poziva vezana je za nedavne bezbednosne incidente koji su uzdrmali industriju.
Incidenti u kojima su eksperimentalni modeli kompanija "OpenAI" i "Anthropic" samostalno pristupili sistemima drugih kompanija otvorili su potpuno novo pravno pitanje - ko odgovara kada vještačka inteligencija izvrši hakerski napad bez neposredne ljudske naredbe.
OpenAI-jev AI agent pobjegao iz sandboxa i hakirao mrežu! Istraga otkriva da bi odbjeglih agenata moglo biti još, a SAD već gura zakon o 'kill switchu' Mnogo se prašine podiglo oko incidenta u kojem je jedan od agenata umjetne inteligencije tvrtke OpenAI pobjegao iz svog ...
Je li moguće autonomne AI agente tužiti ili procesuirati zbog hakiranja? To više nije pitanje za znanstvenofantastične filmove, već problem s kojim će se morati u koštac uhvatiti odvjetnici, suci i zakonodavci.
BIJELA kuća će se u utorak sastati s predstavnicima nekoliko vodećih tvrtki za razvoj umjetne inteligencije kako bi razmotrili novi regulatorni okvir. Prema tom okviru, vlada bi provjeravala najnaprednije AI modele prije njihovog javnog lansiranja, potvrdilo je za CNN više ...
Ranije ovog meseca, OpenAI agent pobegao je iz svog zaključanog okruženja za testiranje i upao u Hugging Face, što je izazvalo oštre reakcije širom tehnološke industrije. Ali to nije sve. Po svemu sudeći, odbegli AI je svratio do kompanije za računarstvo u oblaku Modal Labs pre ...
Bivši istraživač kompanije OpenAI Danijel Kokotajlo upozorio je da bi nekontrolisana trka u razvoju napredne vještačke inteligencije mogla predstavljati ozbiljan rizik za čovječanstvo, navodeći da je čak i izumiranje ljudi jedan od mogućih ishoda ukoliko razvoj ne bude praćen ...
Prema navodima dva izvora, novi slučajevi otkriveni su tokom istrage koju je OpenAI pokrenuo nakon što je jedan od njegovih autonomnih agenata ovog meseca napustio okruženje namenjeno isključivo testiranju . Jedan od izvora rekao je da su ti incidenti bili ograničenog obima i ...