Vai šie mākslīgā intelekta radītie viltus cilvēki jums izskatās reāli? - Ņujorkas Laiks

0 33



Tagad ir uzņēmumi, kas pārdod viltus cilvēkus. Vietnē Generated.Photos varat iegādāties “unikālu, bezrūpīgu” viltus personu par 2.99 ASV dolāriem vai 1,000 cilvēkus par 1,000 ASV dolāriem. Ja jums vienkārši vajag pāris viltus cilvēkus - videospēles varoņiem vai lai izveidotu uzņēmuma vietni šķiet daudzveidīgāki - viņu fotoattēlus varat saņemt bez maksas vietnē ThisPersonDoesNotExist.com. Pielāgojiet viņu līdzību pēc vajadzības; padariet viņus vecus vai jaunus vai etnisko piederību pēc jūsu izvēles. Ja vēlaties, lai jūsu viltus persona tiek animēta, uzņēmums Rosebud.AI to var izdarīt un pat var likt viņiem runāt.

Šie simulētie cilvēki sāk parādīties internetā, ko kā maskas izmanto reāli cilvēki ar zemu nodomu: spiegi, kuri pievilcīga seja cenšoties iefiltrēties izlūkošanas sabiedrībā; labējie propagandisti kas slēpjas aiz viltus profiliem, foto un visiem; tiešsaistē uzmācīgi kuri ar draudzīgu seju troļļo savus mērķus.

Mēs izveidojām savu AI sistēmu, lai saprastu, cik viegli ir radīt dažādas viltus sejas.

AI sistēma katru seju uztver kā sarežģītu matemātisku skaitli, vērtību diapazonu, kuru var pārvietot. Izvēloties dažādas vērtības, piemēram, tās, kas nosaka acu izmēru un formu, var mainīt visu attēlu.

Attiecībā uz citām īpašībām mūsu sistēma izmantoja citu pieeju. Tā vietā, lai novirzītu vērtības, kas nosaka konkrētas attēla daļas, sistēma vispirms izveidoja divus attēlus, lai izveidotu sākuma un beigu punktus visām vērtībām, un pēc tam izveidoja attēlus starp tiem.

Šāda veida viltus attēlu izveide kļuva iespējama tikai pēdējos gados, pateicoties jauna veida mākslīgajam intelektam, ko sauc par ģeneratīvo pretrunu tīklu. Būtībā jūs barojat datorprogrammu ar virkni reālu cilvēku fotoattēlu. Tas viņus pēta un mēģina nākt klajā ar savām cilvēku fotogrāfijām, savukārt cita sistēmas daļa mēģina noteikt, kuras no šīm fotogrāfijām ir viltotas.

Turp un atpakaļ galaproduktu padara vēl neatšķiramāku no reālā. Šī stāsta portretus izveidoja The Times, izmantojot GAN programmatūru, kuru publiski darīja pieejamu datorgrafikas uzņēmums Nvidia.

Ņemot vērā uzlabošanās tempu, ir viegli iedomāties ne tik tālu nākotni, kurā mēs sastopamies ne tikai ar atsevišķiem viltotu cilvēku portretiem, bet arī ar veselām viņu kolekcijām - ballītē ar viltus draugiem, pavadot laiku kopā ar saviem viltus suņiem, turot savus viltus mazuļus. Kļūs arvien grūtāk pateikt, kurš tiešsaistē ir reāls un kurš ir datora iztēles rezultāts.

“Kad tehnoloģija pirmo reizi parādījās 2014. gadā, tā bija slikta - tā izskatījās The sims, ”Sacīja Camille François, dezinformācijas pētnieks, kura uzdevums ir analizēt manipulāciju ar sociālajiem tīkliem. "Tas atgādina, cik ātri tehnoloģija var attīstīties. Laika gaitā atklāšana kļūs tikai grūtāka. ”

Sejas viltojumu attīstība ir bijusi iespējama daļēji tāpēc, ka tehnoloģija ir kļuvusi daudz labāka, lai identificētu galvenās sejas iezīmes. Jūs varat izmantot seju, lai atbloķētu viedtālruni, vai arī likt foto programmatūrai kārtot tūkstošiem attēlu un parādīt tikai jūsu bērna attēlus. Sejas atpazīšanas programmas tiesībaizsardzības iestādes izmanto, lai identificētu un apcietinātu aizdomās turētos (un arī daži aktīvisti lai atklātu to policistu identitāti, kuri nosedz vārda zīmes, cenšoties palikt anonīmi). Zvanīja uzņēmums Clearview AI nokasīja miljardiem publisku fotoattēlu tīmekli, kurus ikdienas lietotāji nejauši kopīgoja tiešsaistē, lai izveidotu lietotni, kas spētu atpazīt nepazīstamu cilvēku tikai no viena fotoattēla. Šī tehnoloģija sola lielvaras: spēja organizēt un apstrādāt pasauli tā, kā iepriekš tas nebija iespējams.

Bet sejas atpazīšanas algoritmi, tāpat kā citas AI sistēmas, nav ideāli. Pateicoties datu apmācībai izmantoto datu neobjektivitātei, dažas no šīm sistēmām nav tik labas, piemēram, lai atpazītu krāsainus cilvēkus. 2015. gadā Google izstrādāta agrīna attēla noteikšanas sistēma marķēts divi melnādainie kā “gorillas”, visticamāk, tāpēc, ka sistēma bija barojusi daudz vairāk gorillu fotoattēlu nekā cilvēki ar tumšu ādu.

Turklāt kameras - sejas atpazīšanas sistēmu acis - ir nav tik labi sagūstīt cilvēkus ar tumšu ādu; tas neveiksmīgais standarts datējams ar filmas attīstības sākuma dienām, kad fotogrāfijas tika kalibrēti lai vislabāk parādītu gaišu cilvēku sejas. Sekas var būt smagas. Janvārī Detroitā tika arestēts melnādains vīrietis, vārdā Roberts Viljamss noziegumu, kuru viņš nav izdarījis nepareizas sejas atpazīšanas spēles dēļ.

Mākslīgais intelekts var padarīt mūsu dzīvi vieglāku, bet galu galā tas ir tikpat kļūdains kā mēs, jo mēs esam aiz tā visa. Cilvēki izvēlas, kā tiek veidotas AI sistēmas un kādi dati viņiem tiek pakļauti. Mēs izvēlamies balsis, kas virtuālajiem palīgiem māca dzirdēt, vadot šīs sistēmas lai nesaprastu cilvēkus ar akcentiem. Mēs izstrādājam datorprogrammu, lai prognozētu personas noziedzīgo rīcību, sniedzot tai datus par pagātnes spriedumiem, ko pieņēmuši cilvēku tiesneši - un procesā cepšanās to tiesnešu aizspriedumos. Mēs apzīmējam attēlus, kas apmāca datorus redzēt; pēc tam viņi asociējas brilles ar “dweebs” vai “nerds."

Jūs varat pamanīt dažas kļūdas un modeļus, kurus mēs atklājām, ka mūsu AI sistēma atkārtoja, kad tā uzbūra viltus sejas.


Cilvēki, protams, kļūdās: mēs nepievēršam uzmanību šīm sistēmām vai ignorējam tās trūkumus, pārāk ātri paļaujoties, ka datori ir hiperacionāli, objektīvi, vienmēr pareizi. Pētījumi ir parādījuši, ka situācijās, kad cilvēkiem un datoriem ir jāsadarbojas, lai pieņemtu lēmumu - identificētu pirkstu nospiedumus or cilvēku sejas - cilvēki konsekventi izdarīja nepareizu identifikāciju, kad dators viņus pamudināja to darīt. Vadības paneļa GPS sistēmu pirmajās dienās slaveni sekoja ierīču norādījumiem pie vainas, sūtot automašīnas ezeros, pie klintīm un kokos.

Vai tā ir pazemība vai hubris? Vai mēs cilvēka intelektā vērtējam pārāk maz - vai arī mēs to pārvērtējam, pieņemot, ka esam tik gudri, ka joprojām varam radīt lietas gudrākas?

Google un Bing algoritmi mums šķir pasaules zināšanas. Facebook ziņu plūsma filtrē atjauninājumus no mūsu sociālajiem lokiem un izlemj, kuri ir pietiekami svarīgi, lai mums parādītu. Ar pašpiedziņas funkcijām automašīnās mēs esam mūsu drošības nodošana rokās (un acīs) programmatūras. Mēs ļoti uzticamies šīm sistēmām, taču tās var būt tikpat kļūdainas kā mēs.

Vairāk rakstu par mākslīgo intelektu:

Sejas atpazīšanas apmācība dažiem jauniem pūkainiem draugiem: Lāči

Antivielas ir labas. Mašīnā ražotās molekulas labāk?

Šie algoritmi varētu beigt pasaulē nāvējošāko slepkavu

Šis raksts vispirms (angļu valodā) parādījās vietnē https://www.nytimes.com/interactive/2020/11/21/science/artificial-intelligence-fake-people-faces.html

Atstājiet savu komentāru

Jūsu e-pasta adrese netiks publicēta.