Само девет гигантских технолошких компанија у САД-у и Кини стоји иза велике већине напретка у вештачкој интелигенцији широм света. У својој новој књизи, Велика деветка: Како би технолошки титани и њихове машине за размишљање могли да искриве човечанство (ПублицАффаирес, 5. марта), Ами Вебб предвиђа три могуће будућности, у распону од оптимистичне до апокалиптичне, које би могле проистећи из акција које предузимамо - или не предузимамо - да бисмо контролисали развој А.И. и обликују његов глобални утицај. У овом одломку она износи низ тешких етичких питања која су људи који граде А.И. системи треба да користе за вођење свог рада.
Правила - алгоритам - по којима живе свака култура, друштво и нација и који су икада живели, увек је створило само неколико људи. Демократија, комунизам, социјализам, религија, веганство, нативизам, колонијализам - то су конструкти које смо током историје развијали да бисмо помогли у вођењу наших одлука. Чак иу најбољим случајевима нису сигурни за будућност. Технолошке, социјалне и економске снаге увек интервенишу и доводе до тога да се прилагодимо.
Десет заповести чине алгоритам намењен стварању бољег друштва за живе људе пре више од 5000 година. Једна од заповести је да се цео дан одмарате недељно и да тог дана уопште не радите. У модерно доба већина људи не ради потпуно исте дане или сате из недеље у недељу, па би било немогуће не прекршити правило. Као резултат, људи који следе Десет заповести као водећег принципа флексибилни су у свом тумачењу, с обзиром на реалност дужих радних дана, фудбалске праксе и е-поште. Прилагођавање је у реду - заиста добро функционише за нас и за наша друштва, омогућавајући нам да останемо на правом путу. Договарање око основног скупа смерница омогућава нам да оптимизујемо за себе.
Даница Патрицк је лезбејка
Не би било начина да се створи сет заповести за А.И. Нисмо могли да напишемо сва правила како бисмо правилно оптимизовали за човечанство, и то зато што, иако мислеће машине могу бити брзе и моћне, недостаје им флексибилности. Не постоји једноставан начин да се симулирају изузеци или да се унапред покуша размислити о свакој непредвиђеној ситуацији. Каква год правила могла бити написана, увек ће се догодити околност у којој ће неки људи можда желети да правила тумаче другачије или да их потпуно игноришу или да направе измене и допуне како би решили непредвиђене околности.
Знајући да никако не можемо да напишемо низ строгих заповести које треба следити, да ли бисмо, уместо тога, требали своју пажњу усмерити на људе који граде системе? Ови људи - племена А.И. - требали би себи постављати непријатна питања, почевши од:
колико година има Ема Тремблаи
- Шта је наша мотивација за А.И.? Да ли је усклађен са најбољим дугорочним интересима човечанства?
- Које смо сопствене пристрасности? Које идеје, искуства и вредности нисмо успели да уврстимо у своје племе? Кога смо превидели?
- Да ли смо укључили људе сличне себи ради стварања будућности А.И. боље - или смо једноставно укључили разноликост у наш тим да бисмо испунили одређене квоте?
- Како можемо осигурати да наше понашање буде инклузивно?
- Како су технолошке, економске и социјалне импликације А.И. разумеју они који су укључени у његово стварање?
- Која основна права бисмо требали имати да испитујемо скупове података, алгоритме и процесе који се користе за доношење одлука у наше име?
- Ко може да дефинише вредност људског живота? У односу на шта се мери та вредност?
- Када и зашто они у племенима А.И. сматрају да је њихова одговорност да се баве социјалним импликацијама А.И.?
- Да ли руководство наше организације и наш А.И. племена одражавају много различитих врста људи?
- Какву улогу имају они који комерцијализују А.И. игра у решавању социјалних импликација А.И.?
- Да ли треба да наставимо да упоређујемо А.И. људском размишљању или је за нас боље да га категоришемо као нешто другачије?
- Да ли је у реду градити А.И. која препознаје и одговара на људске емоције?
- Да ли је у реду да А.И. системи способни да опонашају људске емоције, посебно ако учи од нас у реалном времену?
- Која је прихватљива тачка у којој смо са А.И. развија без људи директно у петљу?
- Под којим околностима би А.И. симулирати и искусити уобичајене људске емоције? Шта је са болом, губитком и усамљеношћу? Да ли смо у реду узрокујући ту патњу?
- Да ли развијамо А.И. да тражимо дубље разумевање себе? Можемо ли користити А.И. да помогне човечанству да живи испитиванији живот?
Постоји девет великих технолошких компанија - шест америчких и три кинеске - које су у главном одговорне за будућност вештачке интелигенције. У САД су то Гоогле, Мицрософт, Амазон, Фацебоок, ИБМ и Аппле („Г-МАФИА“). У Кини су то БАТ: Баиду, Алибаба и Тенцент.
Г-МАФИА је почела да се бави проблемом водећих принципа кроз различите истраживачке и студијске групе. Унутар Мицрософта је тим под називом ФАТЕ - за правичност, одговорност, транспарентност и етику у А.И. Након скандала Цамбридге Аналитица, Фацебоок је покренуо етички тим који је развијао софтвер како би се побринуо да његов А.И. системи избегавали пристрасност. (Важно, Фацебоок није отишао толико далеко да је створио етички одбор фокусиран на А.И.) ДеепМинд је створио тим за етику и друштво. ИБМ редовно објављује о етици и А.И. Након скандала у Баидуу - претраживач је дао предност обмањујућим медицинским тврдњама из војне болнице, где је лечење резултирало смрћу 21-годишњег студента - извршни директор Баидуа Робин Ли признао је да су запослени компромисе ради Баидуовог раста зараде и обећали да ће се у будућности фокусирати на етику.
је келли тилгхман лезбејка
Велика деветка производи студије етике и белешке, сазива стручњаке да разговарају о етици и домаћин је панела о етици - али тај напор није довољно испреплетен са свакодневним радом различитих тимова који раде на А.И.
Тхе Биг Нине'с А.И. системи све више приступају нашим подацима из стварног света како би створили производе који показују комерцијалну вредност. Развојни циклуси се убрзавају како би ишли у корак са очекивањима инвеститора. Били смо спремни - ако не желе - учесници у будућности која се ствара на брзину и без претходног одговора на сва та питања. Како је рекао А.И. системи напредују и већи део свакодневног живота постаје аутоматизован, што мање контроле имамо над одлукама које се доносе о нама и за нас.
Ами Вебб ће се појавити на Инц. Кућа оснивача у Остину 11. марта.
