Големите технологични компании не обичат да говорят за това. И когато потребителите разбират, че се случва, те често остават изненадани, но и много обезпокоени.
Да, ако говорите на виртуален асистент като Amazon Alexa, човек може да слуша запис на вашия разговор.
Скорошни публикации изтъкнаха, че практиката, която съществува отдавна, има за цел основно да подобри изкуствения интелект, който стои зад работещите с виртуалния асистент джаджи и услуги, появяващи се в домовете и живота на хората.
Практиката обаче предизвиква опасения за защита на личните данни на потребителите на умни високоговорители, които може и да са знаели, че Amazon, Google и Apple create правят запис всеки път, когато говорите съответно с Alexa, Google Assistant и Siri, но не и че хора може да преглеждат тези записи.
Компаниите казват, че само малък процент от записите се прослушват от хора. И все пак, Google и Apple временно спряха прослушванията от хора, а Amazon наскоро промени настройките, за да улесни хората да избягват напълно подобно прослушване.
Миналата седмица Facebook казаха, че също са спрели прослушването от модератори на аудиозаписи на някои потребители, от рода на тези, изпратени като аудио-съобщения чрез приложението Messenger на социалната мрежа. Facebook използва хора за прослушване като част от ИИ услугата си за транскрипции на съобщения.
В шума около тези разкрития се губи преценката дали хората наистина са необходими, за да работят тези зависими от изкуствения интелект системи, и до каква степен компаниите трябва да разкриват на потребителите този процес.
Многобройни експерти по ИИ, от учени до стартъп предприемачи, коментират, че има обоснована нужда от прослушване на някои откъси от разговори, за да могат да работят всякакъв вид технологични процеси, контролирани чрез глас, независимо дали става дума за "умен високоговорител" в хола, или виртуален сервитьор в ресторант за бързо хранене.
Същевременно те смятат, че технологичните компании трябва да правят много повече, за да разкриват ясно какво се случва със записите от тези системи, и какви рискове може да носи това за личните ви данни.
"Ако се замислите, защо бихте искали непознат във вашия дом, който слуша личните ви разговори?" пита Маинул Мондал, основател и изпълнителен директор на базирания в Сан Франциско стартъп Ellipsis Health, който използва изкуствен интелект за анализиране на разговори, които пациентите провеждат с лекари и други медицински специалисти.
ИИ не е магия.
Виртуалните асистенти разчитат на алгоритми за машинно обучение, които анализират огромни количества данни в търсене на повтарящи се модели. За да работят, тези асистенти трябва да бъдат "обучени" върху много данни - в този случай, на база много разговори.
Нужни са около 20 000 часа аудио, за да бъде обучен виртуален асистент, който да може да бъде предоставен за масова употреба от потребители, твърди Джейсън Марс, изпълнителен директор и съосновател на Clinc, основан в Ан Арбър, Мичиган стартъп, който изгражда водещи разговори виртуални асистенти за банки и други компании.
Тези асистенти могат да бъдат обучени да извършват всякакъв вид задачи, например да ви информират каква е прогнозата за времето или да възпроизвеждат песен, поискана от вас. И все пак хората остават жизненоважен елемент от процеса, не само за осигуряване на първоначалната информация за обучение на тези системи, а и за да им помагат да се усъвършенстват с течение на времето, което е и причината някой някъде евентуално да слуша запис как искате от Alexa да възпроизведе "Truth Hurts" на Lizzo.
Джъстин Касел, професор по езикови технологии в университета "Карнеги Мелън", казва, че хората са "крайно необходими" за създаването на базирани на ИИ, контролирани чрез глас продукти, тъй като технологиите все още не се справят особено добре с преценката как говорят хората, тоест как решаваме да кажем това, което казваме (което може да варира в зависимост от това дали говорим например с колега или с член на семейството ни).
ИИ също така не е особено умел в преценката как да ни отговаря адекватно. Ако например поискате от Siri да ви каже шега и отговорите на кулминацията на шегата с "Това не е особено забавно", Siri ще отговори с механично "Не съм сигурна, че разбирам."
"Машините не са добри в това, затова и хората слушат човешка реч: защото ни бива в класифицирането на такива неща", коментира Касел. "До известна степен знам дали се чувствате позитивно от това, което казвам, или демонстрирате негативна реакция."
Компаниите трябва да полагат повече усилия.
Друг проблем е, че хората обикновено са склонни да персонифицират тези устройства, казва Флориан Шауб, доцент в Мичиганския университет, който е изучавал възприятията за лично пространство на хората, когато става дума за умни високоговорители. В резултат на това персонифициране, те реално не мислят за факта, че изпращат заявка до Amazon, когато изричат команда към Alexa.
Осъзнаването, че някъде там човек може да чуе какво казвате, оставя усещане за нарушено лично пространство, коментира той, и може да накара потребителите да се запитат какво още тези компании знаят за тях. Шауб често чува, че вместо да използват вградени средства за защита на личните данни (от рода на физически бутон за изключване на звука, с какъвто много умни високоговорители разполагат, за да спрат устройствата да чуват нещо, което казвате), хората просто изключват устройството от контакта.
Смятам, че тези компании трябва да полагат повече усилия, за да разберат какви са истинските опасения на хората, казва Шауб.
Според него компаниите като цяло не информират ясно какво правят с потребителските данни и могат да правят повече и да говорят за рисковете по отношение на личните данни, и как защитават данните на потребителите.
Касел и други експерти заявяват, че фирмите, които искат да анализират потребителска реч, първо трябва да гарантират анонимизиране на данните на потребителите, което е разпространена практика сред компаниите.
Според нея те също така трябва да осигуряват на служителите, следящи подобен тип аудио, същия тип фокусирано върху етиката обучение, през което преминават учените, преди да могат да извършват изследвания с участие на хора, и би трябвало също така да информират потребителите за този факт.
Хората трябва да са намесени в процеса.
Ще станат ли някога достатъчно добри технологичните решения, с които разговаряте, за да направят прегледа от хора ненужен?
Не изглежда особено вероятно това да се случи, поне не и в близко бъдеще.
Ако целта на тези компании в крайна сметка е да имат гласови помощници, с които да можем да водим естествено звучащи разговори, а не типа скована обмяна на реплики, която е типична за комуникацията с тях сега, винаги ще се нуждаем от някакъв вид ръчен преглед, казва Шауб.
Марс и други експерти се съгласяват с това твърдение.
Смятаме, че има да се свърши още много сериозна работа, преди да можете да разговаряте с тези системи като с жив човек в стаята, коментира Марс.
