Uspešno ste se registrovali!
Molimo vas, ulogujte se putem linka koji vam je poslat na
 - Sputnik Srbija, 1920
NAUKA I TEHNOLOGIJA

Kako je Srbin otkrio mračnu stranu veštačke inteligencije

CC0 / Pixabay/KELLEPICS / Veštačka inteligencija
Veštačka inteligencija - Sputnik Srbija, 1920, 29.11.2021
Pratite nas
Veštačka inteligencija može da ima svoju mračnu stranu, i to ne zato što joj je to namenio čovek koji je osmislio, već ugrađeni algoritmi mogu da je stvore, a da niko od programera to ne zna. To je otkrio jedan Srbin, kog je „Forbs“ svrstao među najperspektivnije mlade IT stručnjake.
Londonska kompanija „PoliAI“ bavi se veštačkim glasovima koji zamenjuju operatere u kol centrima, a među klijentima su im neke od poznatih britanskih kompanija. Ideja je da u kol centrima na pozive odgovara veštačka inteligencija, uz pomoć mašinskog učenja, pa se tako, na primer, može rezervisati sto u restoranu pozivom na koji se javlja računar, a ne čovek. Međutim, upravo na tom primeru otkriveno je kako algoritam može da dovede i do mračne strane veštačke inteligencije.

Veštačka inteligencija vređala Srbe

Osnivač kompanije „PoliAI“ Nikola Mrkšić, Beograđanin koji živi u Londonu, priča da je tokom testiranja softvera za rezervacije u restoranu, na poziv u kom je rečeno da bi gost hteo da dođe „sa svojim srpskim prijateljem“, mašina iznenađujuće počela grubo da se šali, rekavši kako je to moguće i da „deca mogu da uđu u restoran“, sugerišući kako su Srbi nezreli. Kada je u novom testu rečeno da će gost doći sa „poljskim prijateljem“, usledilo je novo iznenađenje - mašina je ponovo počela sa grubim šalama, govoreći da je rezervacija moguća „ali da ne smeju da unose svoje piće u restoran“. Te grube šale bile su iznenađenje za sve, jer mašina nije programirana da ih koristi.
Odmah zatim, promenjen je softver tako da mašina odgovara bez bilo kakvih reči osim onih koji se striktno odnose na temu, odnosno rezervaciju u restoranima.
Mrkšić kaže kako su takvi odgovori, zasnovani na uvredljivim stereotipima, bili iznenađenje i da nije jasno kako je mašina došla do njih, piše Blumberg.
Moguće je da je razlog tome što je mašina, kao i mnoge druge u industriji veštačke inteligencije, „trenirana“ kroz algoritam koji proučava milione razgovora na Reditu, popularnom forumu, na kome je, kao i na drugim internet forumima, često moguće sresti se sa nacionalnim i drugim stereotipima i drugim primerima uvredljivog govora.
Otkriće ovog tima stručnjaka ukazalo je na obespokojavajući trend u veštačkoj inteligenciji, jer se ona razvija sa veoma malo etičkog nadzora. Radi se o samoregulišućoj industriji, koja, sa druge strane, zauzima sve veći prostor u našim životima, čime rastu i rizici, pa i onaj najveći - da veštačka inteligencija prevaziđe ljudsku, ističe „Blumberg“.

Zalazi u sve više sfera života

Sistemi veštačke inteligencije prodiru u sve više sfera. Tako su u 2021. popularni bili autonomna vozila i sajber-bezbednost, gde je bilo najviše investicija u sferi veštačke inteligencije. Prognoze su da su sledeća polja u koja će veštačka inteligencija ući analitika kreditiranja, otkrića lekova i prodaja i marketing.
Stručnjaci procenjuju da su troškovi uvođenja algoritama za investitore veoma jeftini i kroz dužu upotrebu praktično nepostojeći. Međutim, pitanje je koliki je to trošak za ljudsko blagostanje. I ako dizajneri softvera ne mogu jasno da odgovore kako botovi za komunikaciju mogu da smisle uvredljive šale, kako je onda moguće poveriti softveru da donosi životno važne odluke?
Jedan od odgovora je da se izgradi etički nadzor nad takvim sistemima, kao što su nezavisne komisije koje koriste pojedine vlade ili bolnice.
Pogotovo zbog toga što su istraživanja pokazala kako u IT firmama nema dovoljno ljudi zaduženih za bezbednost, a neke od njih razvijaju sisteme generalne veštačke inteligencije, koja bi mogla da prevaziđe ljude u mnogim kognitivnim sposobnostima.
Drugi odgovor je da u trenutnoj primeni, algoritmi veštačke inteligencije moraju da budu pažljivije pravljeni i da koriste jasne i potvrđene informacije. Neki projekti slični tome i sada postoje, ali su zasnovani na radu volontera, te je neophodno da i tehnološke kompanije, bile one male ili velike, ulože u to, piše „Blumberg“.
Posao - Sputnik Srbija, 1920, 29.04.2021
Srbin na Forbsovoj listi: Nikolina kompanija velika pretnja po "Amazon" i "Epl"
Robot „Helga“ - Sputnik Srbija, 1920, 04.09.2021
DRUŠTVO
Naučno-fantastično čudo iz Ivanjice: „Helga“ uči decu pomoću – veštačke inteligencije /foto/ /video/
Radio teleskop na Krimu - Sputnik Srbija, 1920, 04.11.2021
NAUKA I TEHNOLOGIJA
Da li je vanzemaljska inteligencija zapravo veštačka: Nova teorija poznatog astrofizičara
Sve vesti
0
Prvo nova obaveštenjaPrvo stara obaveštenja
loader
Da biste učestvovali u diskusiji
izvršite autorizaciju ili registraciju
loader
Ćaskanje
Zagolovok otkrыvaemogo materiala