Този сайт използва „бисквитки“ (cookies). Разглеждайки съдържанието на сайта, Вие се съгласявате с използването на „бисквитки“. Повече информация тук.

Разбрах

Мъск и Зукърбърг: сблъсъкът на титаните

Двамата са на коренно различно мнение за технологиите
Двамата са на коренно различно мнение за технологиите

В представите на обществото амишите са известни с отказа си от съвременните технологии. На практика много от фермите им обаче използват машини - цистерни за мляко, механични бъркачки, дизелови двигатели, пневматични песъкоструйки и други. Амишите всъщност не се противопоставят на технологиите.

Вместо това общността трябва да гласува дали да приеме за употреба даден технологичен продукт.

За да се случи това, трябва да се постигне почти единодушно съгласие.

Външният свят може да приема новите технологии за нещо добро, докато не се окаже противното, но амишите първо решават дали нова технология няма да подкопае ценностите на общността, които те се опитват да запазят. Не отделните технологии ги вълнуват, а цялостната верига.

Това е идея, която намира особено радушен прием в Силициевата долина в наши дни, където дебатът за технологиите и потенциалните им непланирани последици разделя индустрията на противоположни лагери, на чело на които стоят технологични титани.

От едната страна е изпълнителният директор на Facebook Марк Зукърбърг, който приема технологиите за добри в същността им.

Всякакви социални и етични проблеми могат да бъдат решени в момента на възникването им, за предпочитане - без особени регулации. Това е стандартно разбиране в Силициевата долина, където на бъдещето се гледа през очила на утопизъм - проблемът е миналото, а бъдещето не настъпва достатъчно бързо.

От другата страна е Илон Мъск, изпълнителен директор на Tesla и SpaceX, който настоява за предпазливост, когато си имаме работа с технологии като изкуствен интелект, за да не изгубят хората контрола над създаденото от тях. Той изразява резервирност към бизнесмодела на Зукърбърг на следене на потребителите онлайн.

Нито един от двамата не отрича технологиите. И двамата всъщност настояват, че бъдещето ни зависи от бързия прогрес. В крайна сметка, Мъск налива милиарди в междупланетни ракети и нова соларна икономика. Но скандалът около Cambridge Analytica разкри дълбоките идеологически разминавания между двамата и нагласите към технологиите, които те въплъщават.

Сблъсъкът на титаните

Мъск е сред най-нашумелите фигури, напуснали Facebook след избухването на скандала, като той избра да премахне Facebook страниците на Tesla и SpaceX, които имаха общо около 5 млн. последователи. "Никога не сме рекламирали чрез FB", писа по-късно той в Twitter.

"Просто не харесвам Facebook. Побиват ме тръпки от него. Сори". Той обаче си запазва профила със 7-те милиона негови последователи в притежавания от Facebook Instagram.

Това не е първият път, в който Мъск и Зукърбърг се оказват в публичен конфликт. Разминаването между двамата по въпросите на безопасността на изкуствения интелект (ИИ) е една от най-отблизо следените "семейни кавги" в Силициевата долина.

Мъск иска да бъде обуздано развитието на ИИ, който той нарича "фундаментален риск за съществуването на човешката цивилизация".

Зукърбърг отхвърля подобни позиции, като нарича отстояващите ги "мрънкачи". По време на лайвстрийм на Facebook миналия юли той допълни, че в някои аспекти дори смята, че това е много безотговорно. Мъск не закъсня да отвърне на удара в Twitter. "Говорих с Марк за това", писа той. "Неговото разбиране по този въпрос е твърде ограничено".

Възгледите на двамата за рисковете и ползите от технологиите са въплътени в техните компании. Зукърбърг е прочут с мотото "Действай бързо, дори и да счупиш нещо". Това работеше много в полза на Facebook, когато той ударно се разрасна от колежански експеримент през 2004-а до агрегатор на Интернет с повече от 2 милиарда потребители.

Facebook се отнася към света като към безкраен експеримент, игра с ниски залози, тестове в големи обеми, които надеждно генерират печалби, макар и не винаги да носят прогрес.

Основната грижа на Зукърбърг е да осигури достиженията на цифровите технологии на колкото може повече хора, колкото се може по-скоро. "Имам много категорично мнение по този въпрос", казва Зукърбърг. "Оптимист съм. Смятам, че можете да създавате неща и светът става по-добър".

Мъск се занимава с електромобили и космически пътешествия, области, в които дори и малките грешки могат да имат катастрофални последици. Никой не би си купил автомобил от Tesla, ако мотото на компанията беше "Действай бързо, дори и да чупиш нещо". Естествено, това не спира Мъск да поема понякога спорни рискове, дори по отношение на живота на хората.

Типичен пример е решението на Tesla да пусне на пазара технологията си Autopilot в бета-версия.

Това се превърна в трагедия през 2016-а, когато Джошуа Браун разби своята Tesla Model S във влекач със скорост 110 км/ч, първият смъртен случай, в който беше замесен Autopilot.

Националната служба за пътна безопасност на САЩ при разследването приписа катастрофата на шофьорска грешка и прекалено разчитане на автоматизацията на автомобила, но специално откри проблем в това, че Tesla не са гарантирали, че шофьорите обръщат внимание при движение с висока скорост и не ограничават работата на Autopilot до подходящи за него пътища.

Проблемът с безопасността на Autopilot отново влезе в новините на 23 март след поредна фатална катастрофа, в която според Tesla шофьорът не е държал ръцете си на кормилото в продължение на шест секунди преди сблъсъка.

Решението на Tesla да пусне за масова употреба Autopilot може да се приеме за преждевременна прибързаност с цел трупане на опит в самоуправлението, който да й даде преимущество пред конкурентите - или като искрен опит да бъде внедрена животоспасяваща технология колкото може по-бързо.

От философска гледна точка компаниите на Мъск са базирани на убеждението, че човечеството има нужда от спасителен изход.

Не е случайност, че фирмите му се занимават с климатичните промени и междупланетните изследвания, плюс безопасността на изкуствения интелект, интерфейсите между човешкия мозък и компютрите и подземния транспорт.

Той вярва, че изчезването на човечеството е много по-вероятно, отколкото си мислим, както заради рисковете, които технологиите създават за човешкия род (независимо дали чрез емисии на парникови газове, или чрез неподчиняващи се роботи), така и заради природни бедствия като насочващи се към земята астероиди.

"Компанията на Марк е базирана на неща, които се случват много бързо, но са с малка стойност", казва виден инвеститор от Силициевата долина, запознат и с двете компании. "Фирмите на Мъск са изградени изцяло на база тезата, че нещо катастрофално би могло да се случи. Всичко се свежда до това колко риск приемате, и колко непредвидени последици сте склонни да понесете".

Твърдо в лагера на Зукърбърг са съоснователят на Google Лари Пейдж, изобретателят и писател Рей Курцвайл и компютърният експерт Ендрю Нг, видна фигура в общността разработчици на изкуствен интелект, който преди ръководеше отдела по изкуствен интелект на китайската компания Baidu.

И тримата изглежда споделят философията, че технологичният прогрес е почти винаги нещо позитивно от гледна точка на баланс и че спъването на този прогрес е не само вредно за бизнеса, но и нередно от морална гледна точка, защото лишава обществото от тези ползи.

Мъск, наравно с други видни фигури като Бил Гейтс, покойният физик Стивън Хокинг и рискови инвеститори като Сам Олтман и Фред Уилсън, не приема всякакъв технологичен прогрес като нещо абсолютно позитивно.

Поради тази причина те са отворени за регулации. След избирането на Тръмп за президент, Уилсън каза пред публика в Сан Франциско, че въпреки, че очакваното отменяне на регулации вероятно ще стимулира развитието, то не си струва: "Склонен съм да платя "данъка контрол", който добрите регулаторни мерки създават в нашия бранш."

През 2017-а Мъск говори пред политици за наложителността на контрола над ИИ. "Продължавам да отправям предупреждения", каза той пред присъстващите на среща на американските губернатори. "Но докато хората не видят как роботи на тяхната улица избиват други хора, те няма да знаят как да реагират".

Недостатъците на оптимизма

В основата на разделението на Силициевата долина стои въпросът кой в крайна сметка командва парада. Ние ли управляваме технологиите, или те нас?

Повечето хора в Силициевата долина са като Зукърбърг. Естественият подбор в Силициевата долина спомага за налагането на оптимисти, които вярват, че контролират съдбата си и нашата съдба. Има твърде малко пространство за съмнение в себе си или размисъл за недостатъците на това, което технологичният бранш създава.

"Не бихте получили Facebook, Microsoft, Google и Apple, ако техните основатели не бяха дълбоки оптимисти, че могат да направят нещо смислено", коментира въпросният инвеститор. "Трябва да вярвате, че нещо е възможно, когато всички смятат, че то ще се провали. Така че изграждате култура и компании, които вярват в това".

Тази философия е нещото, изстреляло Facebook към успеха.

Тя обаче е и основната причина Facebook да не успее да усети и предвиди последиците от стратегията си за следене и политиките си за поверителност, и причината, поради която компанията отхвърля рисковете от новите технологии.

"Много по-мотивиран съм от това да гарантирам, че сме оказали най-голям ефект върху света, отколкото от създаването на бизнес или гарантирането, че няма да се провалим", казва Зукърбърг в своя реч. "Повече се боя в живота си, че няма да използваме максимално възможностите, които имаме, отколкото че ще прецакаме нещо и бизнесът ще тръгне зле".

Курсът на движение на технологичната индустрия

Зукърбърг не греши. Оптимизмът е жизненоважен за технологичния прогрес. Но непредвидените последици, които съпътстват добрите намерения, не дават мира на хора като Мъск. "Понякога това, което се случва, е, че някой учен е толкова увлечен от работата си, че не осъзнава последиците от това, което прави", коментира Мъск на конференцията World Government Summit в Дубай през февруари.

Сега компютърни експерти размишляват на глас дали тяхната научна област не изживява своя "момент на атомната бомба". През 1945 г. физикът Робърт Опенхаймер, докато наблюдава гъбоподобен ядрен облак да се издига над зоната за ядрени изпитания "Тринити" при първите изпитания на ядрено оръжие в света, цитира фраза от хиндуисткия епос "Бхагавад Гита": "Сега аз съм станал Смъртта, унищожителят на светове".

Йонатан Зънгър, бивш инженер по въпросите на сигурността и защитата на личните данни в Google, сравнява влиянието на софтуерните инженери с това на "деца в магазин за играчки, пълен със заредени автомати AK-47".

Става все по-очевидно колко опасно е да се считат безопасността и етиката за нещо опционално, вместо фундаментално за софтуерния дизайн. "Информатиката е област, която все още не се е сблъскала с последиците", пише той.

Не е нужно особено въображение, за да усетим как следващата вълна от технологии може да тръгне в погрешна посока.

Всеки аспект от човешкия живот - храната ни, работата ни, най-интимните ни отношения, собственото ни ДНК - е или скоро ще бъде опосредстван от технологиите, които възприемаме. Машините вече могат да разпознават говор и писмен текст; изображенията са следващият етап. Алгоритми разпознават вашето лице и лицата на милиони ваши съграждани.

Те могат да отгатнат с нарастваща точност доходите, психичното здраве, пола, надеждността като кредитополучател, характера, чувствата и други черти на хората от публично достъпни данни. Някои възможни изобретения, от рода на използвани като оръжие алгоритми, биват сравнявани с "по-лоши от ядрено оръжие".

Сам Олтъм описа надвисналата опасност в сегашния момент в интервю за Vanity Fair. "Сега е много вълнуващо време", казва той, "защото в следващите няколко десетилетия или ще поемем към саморазрушение, или към евентуална колонизация на вселената от потомците на човешкия род".

Проблемът е, че хората не се славят особено с умения да предвиждат и предотвратяват опасностите от новите технологии.

Когато за първи път автомобилите са били въведени, те са можели да всяват хаос с десетилетия, преди някой да събере смелост да наложи каквито и да е правила. В САЩ шофьорска книжка започва да се изисква едва през 30-те години на миналия век, а систематичните федерални мерки за автомобилна безопасност като употребата на предпазни колани при шофиране започва чак през 60-те години.

Може и да нямаме толкова време да експериментираме и да се адаптираме към новите технологии, задаващи се пред нас. Лесно е да се присмиваме на опасенията от ИИ, когато роботите все още не могат да отварят врати и Siri се затруднява да направи резервация в ресторант.

Но ако сте подготвени да мислите за последиците от малко вероятна катастрофа, след която кръпките и корекциите не са възможни, възприемането на по-мрачна визия за бъдещето изглежда много смислен избор. По-добре е да проектирате по-здрава бутилка за духа, отколкото да оставите на случайността начина, по който създадените от вас решения навлизат в света.

Амишите могат да кажат нещо по въпроса.

Когато Уетмор е посещавал различни общности на амиши, той е искал да разбере защо амишите не притежават автомобили. В крайна сметка те са възприели технологии като дизеловите двигатели. Няколко семейства на амиши са си купили коли, когато масовото им производство е започнало през XX-и век. Общността обаче скоро е гласувала за забраната им.

Защо?

"Погледнете какво те ви причиняват", казва един от амишите. "Знаете ли името на съседите си? В момента, в който притежавате кола, спирате да разговаряте със съседите си. Това не е обществото, в което искаме да живеем".

Най-четените