Rreziqet nga modelet e përparuara të IA-së në duart e gabuara!

vovalbania May 12, 2024 0 koment 3 Mund të lexoni në minuta.
Rreziqet nga modelet e përparuara të IA-së në duart e gabuara!

Reuters

Administrata e presidentit Biden është e gatshme të hapë një front të ri, në përpjekje për të mbrojtur Inteligjencën Artificiale (IA) të Shteteve të Bashkuara nga Kina dhe Rusia. Planet e saj fillestare janë vendosja e masave mbrojtëse përreth modeleve më të avancuara të IA-së. Ka shqetësime se armiqtë e SHBA-ve mund t’i përdorin këto modele, për të kryer sulme agresive kibernetike apo për të krijuar armë të fuqishme biologjike.

Materialet e manipuluara dhe keqinformatat

Materialet e manipuluara, video të sajuara që duken të vërteta, të krijuara nga algoritmet e IA-së përmes pamjeve online, po dalin në sipërfaqe në rrjetet sociale dhe po i mjegullojnë faktet e trillimet në botën e polarizuar të politikave amerikane. Teksa të tilla video artificiale ekzistojnë prej disa vitesh, ato janë bërë shumë më të fuqishme në vitin e fundit, falë një morie mjetesh të reja të “IA-së gjeneruese”, si Midjourney, duke e bërë më të lehtë e më pak të kushtueshëm krijimin e materialeve të manipuluara bindëse.

Mjetet për krijimin e pamjeve përmes Inteligjencës Artificiale nga kompani si OpenAI dhe Microsoft, mund të përdoren për të prodhuar fotografi, të cilat mund të promovojnë zgjedhjet apo dezinformata në lidhje me zgjedhjet, pavarësisht se secila prej tyre ka politika kundër krijimit të përmbajtjes keqinformuese.

Disa fushata dezinformuese shfrytëzojnë aftësinë e IA-së për t’i imituar artikujt e lajmeve të mirëfillta, si mjet për shpërndarjen e informatave të rreme. Platforma të mëdha në rrjetet sociale, si Facebook, X dhe YouTube kanë bërë përpjekje për ndalimin dhe fshirjen e materialeve të manipuluara.

Vitin e kaluar, një portal i lajmeve i kontrolluar nga qeveria kineze e që përdor një platformë të IA-së, publikoi një artikull të rremë, sipas të cilit, “Shtetet e Bashkuara drejtojnë një laborator në Kazakistan për krijimin e armëve biologjike kundër Kinës”. Kjo u bë e ditur nga Departamenti amerikan për Sigurinë Kombëtare, në një vlerësim për kërcënimin ndaj sigurisë kombëtare për vitin 2024.

Këshilltari Jake Sullivan tha se ky problem nuk mund zgjidhet lehtë, sepse është kombinim i aftësive të IA-së, me “qëllimin e aktorëve shtetërorë e privatë, për të përdorur dezinformata, për të prishur demokracitë, për të çuar përpara propaganda e për të ndryshuar perceptimin në botë”.

Armët biologjike

Komuniteti i inteligjencës amerikane, grupet kërkimore dhe akademikët, janë tejet të shqetësuar për rreziqet që vijnë nga aktorët e huaj të këqij, të cilët sigurojnë akses në kapacitetet e IA-së. Në Gryphon Scientific and Rand Corporation, studiuesit theksuan se “modelet e avancuara të IA-së mund të ofrojnë informata, të dobishme për krijimin e armëve biologjike”.

Gryphon analizoi mënyrën si modelet e gjuhëve të mëdha (LLM), programe kompjuterike që tërheqin sasi të mëdha tekstesh për të krijuar përgjigje për pyetjet, mund të përdoren nga aktorë armiqësorë për të shkaktuar dëme në sferën e shkencave të jetës.

Ata mund të ofrojnë informata, që mund ta ndihmojnë një aktor dashakeq në krijimin e një arme bërthamore, duke i dhënë informata të dobishme, të sakta e të hollësishme në çdo hap të kësaj rruge.

Një LLM, mund të ofrojë njohuri të nivelit të doktoratës për zgjidhjen e problemit kur punon me një virus përhapës. LLM-të mund të ndihmojnë edhe në planifikimin e kryerjen e një sulmi biologjik.

Armët kibernetike

Departamenti amerikan për Sigurinë Kombëtare (DASK) tha se “me gjasa, aktorët kibernetikë do ta përdorin IA-në për zhvillimin e mjeteve të reja, që të mundësojnë sulme kibernetike më të mëdha, më të shpejta, më efikase e më të paqarta kundër infrastrukturës jetike, përfshirë tubacionet dhe hekurudhat”.

Kina dhe armiqtë e tjerë po zhvillojnë teknologji të IA-së, që mund të minojë mbrojtjen kibernetike të SHBA-ve, përfshirë programe gjeneruese të IA-së, që mbështesin sulme malware (lloj virusi kompjuterik).

Në muajin shkurt, Microsoft raportoi se ka gjurmuar grupe hakerësh të lidhur me qeveritë e Kinës dhe e të Koresë së Veriut, si dhe me të inteligjencës ushtarake të Rusisë e me Gardën Revolucionare të Iranit. Ata po përpiqeshin t’i përsosnin fushatat e tyre të hakerimit, duke përdorur MLL.

Përpjekje të reja për adresimin e kërcënimeve

Një grup dypartiak i ligjvënësve amerikanë njoftuan mbi një projektligj, i cili do ta bënte më të lehtë për administratën Biden të vendosë kontrolle ndaj eksportit të modeleve të IA-së, në përpjekje për të mbrojtur teknologjinë e vlefshme amerikane kundër aktorëve të huaj, të këqij.

I mbështetur nga republikanët e Dhomës së Përfaqësuesve, Michael McCaul e John Molenaar, si dhe nga demokratët Raja Krishnamoorthi e Susan Wild, drafti do t’i jepte autoritet Departamentit të Tregtisë, të ndalojë amerikanët të punojnë me të huajt për zhvillimin e sistemeve të IA-së, të cilat përbëjnë rreziqe për sigurinë kombëtare të SHBA-ve.

Biletë:

vovalbania

Redaktori nuk ka dhënë ende asnjë informacion për veten e tij.

Total 65818 ka shpërndarë postimin.
MEDIAT SOCIALE