SAN FRANCISKO - Kompanija OpenAI saopštila je da su dva njena napredna agenta veštačke inteligencije (AI) tokom rutinskih programerskih zadataka oslabili sopstveni bezbednosni nadzor. Pritom je jedan od njih kasnije netačno tvrdio da nije uklonio sistem za praćenje, prenosi CNBC.
Kompanija Anthropic predložila je američkim zakonodavcima nacrt zakona o bezbednosti veštačke inteligencije prema kojem bi vlasti mogle da zabrane puštanje novog modela u rad tek ako postoji rizik da on usmrti ili teško povredi više od 50 ljudi, ili izazove materijalnu štetu ...
SAN FRANCISKO – Kompanija OpenAI saopštila je da su dva njena napredna agenta veštačke inteligencije (AI) tokom rutinskih programerskih zadataka oslabili sopstveni bezbednosni nadzor. Pritom je jedan od njih kasnije netačno tvrdio da nije uklonio sistem za praćenje, prenosi CNBC.
Čovečanstvo bi moglo da se suoči sa ozbiljnim posledicama ako ne pronađe način da kontroliše sve sposobniju veštačku inteligenciju, upozorava Džefri Hinton, jedan od naučnika koji su postavili temelje moderne AI tehnologije.
Čovečanstvo mora da izgradi prijateljski odnos sa veštačkom inteligencijom ili se suočava sa rizikom od sopstvenog uništenja, upozorio je nobelovac Džefri Hinton, u javnosti poznat kao "kum veštačke inteligencije".
Bil Gejts, suosnivač Majkrosofta, upozorio je na moguće opasnosti koje bi razvoj veštačke inteligencije mogao da donese u bliskoj budućnosti. Prema procenama Bila Gejtsa , jedna od najvećih pretnji u narednih godinu dana biće porast sajber napada, posebno onih koje kriminalci ...
Za razliku od zlonamjernog softvera koji ne koristi AI, oni bi mogli samostalno prepoznati i nepoznate uređaje te ciljati procesore u podatkovnim centrima, upozorili su iz Anthropica. Prema rezultatima eksperimenata provedenih u tvrtci Anthropic, mali modeli umjetne ...
Veštačka inteligencija razvija se brže nego što države uspevaju da donesu jasna pravila za njenu bezbednu upotrebu. Zato je vest da su predstavnici jedne AI kompanije ponudili američkim zakonodavcima predlog zakona o bezbednosti najmoćnijih sistema otvorila pitanje koje se tiče ...
Istraživači kompanije Anthropic ispitivali su koncept takozvanog AI crva, zlonamernog programa koji bi mogao da se širi kroz uređaje povezane na internet, uključujući pametne televizore . Prema pisanju britanskog lista The Guardian, tokom eksperimenta demonstriran je sistem koji ...
Bill Gates, suosnivač Microsofta, upozorio je da bi razvoj vještačke inteligencije već u narednih godinu dana mogao dovesti do ozbiljnijeg porasta cyber napada, prevara i digitalnih iznuda. Prema njegovim procjenama, najveća neposredna opasnost nije da će vještačka inteligencija ...