Podľa denníka The New York Times (NYT) uvrhol poprednú technologickú spoločnosť do existenciálnej krízy. Na druhej strane Pentagon chce nasadenie algoritmov strojového učenia pre armádne účely rozširovať, informoval magazín Wired.
Projekt Maven bol spustený v apríli 2017 a jeho prvá misiia sa stala automatizácia rozpoznávania vojensky významných objektov (ľudí, vozidiel, stavieb) v záberoch nakrútených bezpilotnými lietadlami. Videá vo vysokom rozlíšení sa hromadia na amerických základniach a armádne nástroje ich už nestíhajú analyzovať. Pentagon chcel prvú formu "algoritmického boja" sprevádzkovať do decembra 2017, čo sa mu podľa Wired bez problémov podarilo.
O zapojenie Googlu do operácie informoval prvýkrát server Gizmodo až na začiatku marca. Spoločnosť o úlohe v projekte verejne nehovorila, ale o mesiac neskôr vyzvalo v otvorenom liste 3 100 zamestnancov vedenie, aby od armádneho kontraktu odstúpili. Napätie v Googlu okolo Maven teraz osvetlila reportáž NYT, ktorý hovoril s niekoľkými existujúcimi a bývalými zamestnancami a nazrel aj do dokumentov spoločnosti a internej komunikácie medzi pracovníkmi.
"Za každú cenu sa vyhnite zatiahnutiu umelej inteligencie a akýmkoľvek zmienkam o nej," napísala svojim kolegom vlani v septembri Fei-Fei Liová, ktorá na Stanfordovej univerzite vedie pracovisko pre umelú inteligenciu a je zároveň hlavnou výskumníčkou pre umelú inteligenciu v jednom z oddelení Googlu. "Umelá inteligencia použitá ako zbraň sa zrejme stala jednou z najcitlivejších tém v rámci umelej inteligencie, možno tou vôbec najcitlivejšou," pokračovala vedkyňa. Hoci sa domnievala, že spolupráca na projekte Maven má byť prezentovaná ako "veľká výhra" jej oddelenia cloud computingu (poskytovanie masívneho výpočtového výkonu externým subjektom), odporučila zároveň kolegom, aby boli pri komunikácii s verejnosťou "extra opatrní".
"Neviem, čo by sa stalo, keby si médiá začali všímať motív, že Google tajne buduje zbrane založené na umelej inteligencii alebo technológie tohto typu pre vývoj zbraní v obrannom sektore," napísala v ďalšom e-maile. Jej nadriadení nakoniec od medializácie ustúpili, ale o projekte Maven aj prípadnej budúcej práci Googlu na vojenských systémoch sa vedie živá debata vnútri spoločnosti. Na protest proti spolupráci s armádou už v polovici mája odstúpila desiatka zamestnancov. Obe strany debaty vidí v Maven bránu k ďalším, väčším podobným kontraktom a 4 000 zamestnancov už podpísalo petíciu volajúcu po "jasných pravidlách, ktoré by stanovili, že Google ani jeho spolupracovníci nikdy nebudú vyrábať technológie pre vojnu".
Vedenie teraz sľubuje, že vytvorí sadu zásad, ktoré by uľahčili firme rozhodovanie na "etickom mínovom poli" spolupráce s armádou a rozviedkami. Google NYT povedal, že chystané princípy o umelej inteligencii zakážu jej aplikáciu v zbraniach. Zamestnanci podľa denníka očakávajú, že budú s pravidlami oboznámení v najbližších týždňoch. Zároveň stále nie je jasné, ako presne sa Google na projekte Maven podieľa, napísal v utorok Wired. Ako prevádzkovateľ, tak americké ministerstvo obrany to nechcú prezradiť. Podľa Wired sa ale na identifikácii cieľov pre americké nálety podieľajú aj ďalšie firmy.
Armáda Spojených štátov zrejme spoluprácu považuje za perspektívnu a pre tento rok sa rozpočet Maven približne zdvojnásobil na 131 miliónov dolárov (takmer 112 mil. eur). Operácia by sa mohla v nasledujúcich mesiacoch rozšíriť do nových oblastí, napísal Wired. "Prekonáva moje očakávania," povedal Bob Work, ktorý stál v apríli 2017 pri zrode projektu.
