Мнение эксперта

Почему цифровые помощники делают компанию уязвимой?

Время прочтения: 5 мин.

Недавно я участвовал в совещании Института внутренних аудиторов, которое проводилось в главном офисе. Во время одного из перерывов в кто-то рассказал такую шутку:

Жена говорит мужу: «Почему ты всегда дома разговариваешь шепотом?» Муж отвечает: «Потому что я боюсь, что правительство подслушивает». Жена рассмеялась. Муж тоже рассмеялся. Рассмеялась и Сири, рассмеялась и Алекса (голосовой помощник Amazon)

Я уверен, что эта шутка достаточно популярна, её можно услышать и на совещаниях советов директоров и в социальных сетях. Но в каждой шутке есть только доля шутки.

По данным британской компании Juniper Research, к концу 2018 года в мире насчитывалось 2,5 миллиарда активаций цифровых голосовых помощников, таких как Alexa,Siri, Google Assistant. Ожидается, что к концу 2023 эта цифра утроится. Это означает, что миллиарды людей во всём мире – знают они об этом или нет – уже променяли конфиденциальность своей личной жизни на удобство.

Моё первое знакомство с мощью этих устройств, меняющих реальность, произошло после того, как мы установили Alexa дома. Мы выкрикивали разные команды Alexa, она отвечала. В какой-то момент мой 3-летний внук закричал: «Алекса, я хочу шмеля!». Мы все посмеялись, а через какое-то время я получил сообщение от Амазон о том, что игрушечный шмель уже в пути!

Цифровые ассистенты основаны на технологии пассивного слушания, которая запускает или «пробуждает» устройство в тот момент, когда произнесена команда распознования, например, «Привет, Сири». Это значит, что устройство всегда находится в режиме прослушивания на предмет этих фраз или команд. Это поднимает целый ряд вопросов – что именно могут услышать и, самое важное, записать такие цифровые ассистенты.

С точки зрения управления рисками, организации должны понимать, какие именно риски могут быть связаны с наличием таких постоянно функционирующих устройств. Например, маловероятно, что подобная техника станет частью стандартного офисного оборудования, хотя многие сотрудники используют их на работе. Не подлежит сомнению и тот факт, что мобильные телефоны сотрудников находятся в режиме постоянного прослушивания. Делают ли Alexa или Siri, находящиеся в офисе, компанию уязвимой для корпоративного шпионажа, кибератак или даже вымогательства? Могут ли хакеры изобрести вирусное ПО, которое незаметно вольётся в корпоративную жизнь и будет подслушивать то, о чём говорят управленцы в компании?

Может показаться, что все это надуманная проблема, но суть в том, что доступной информации для оценки рисков, связанных с утечкой данных через цифровых голосовых помощников — недостаточно.

Компании, которые предлагают услуги цифровых ассистентов, в том числе Apple, Google и Amazon — это крупнейшие корпорации мира. Они инвестируют огромные средства в передовые технологии, что позволяет им повышать качество продуктов и уровень обслуживание клиентов. Но какой ценой?

По словам адвоката некоммерческой организации Consumer Watchdog, запатентованные алгоритмы приложения Alexa от Amazon, позволят в будущем мониторить разговоры и подбирать рекламу для пользователя, на основе сказанного им. И здесь возникают вопросы этического характера.

Ранее в этом году после вопросов, возникших у одного из членов Сената США, Amazon дала пояснения по работе приложения. В компании подтвердили, что устройства с поддержкой Alexa хранят записи пользователей в течении неопределенного времени, пока пользователь не решит их удалить.

В компании также пояснили, что для улучшения способности распознавания голоса приложением используют стенограммы и записанные ранее разговоры клиентов. Кроме того, Amazon делится отчетами о взаимодействии Alexa со сторонними поставщиками услуг, такими как Uber или Domino’s Pizza (с которыми можно связаться через приложение)

Amazon также подтвердил, что Алекса прекращает сбор информации «сразу же после того, как разговор завершается или в случае, если Алекса фиксирует тишину или речь, непредназначенную для этого устройства».

«Мы используем полученную информацию для улучшения качества обслуживания клиентов, и они знают, что их личные данные находятся в безопасности», — говорит вице-президент Amazon по связям с общественностью в своём письме.

Но в связи с большим количеством взломов в крупнейших компаниях, таких как Yahoo, Equifax и Capital One, обещания Amazon сохранить безопасность данных не звучат убедительно.

Было бы наивно полагать, что создатели цифровых ассистентов являются единственными поставщиками услуг, которые собирают и используют данные клиентов. Но одно событие, произошедшее в 2012 году, показывает нам, насколько мощное воздействие может оказать такая информация.

Популярная американская розничная компания подверглась серьезной критике, когда в статье «New York Times» была расскрыта практика сбора и анализа истории покупок клиентов с целью присвоения им баллов по шкале «вероятности забеременеть». Исследование компании показало, что беременные женщины чаще становились лояльными покупателями, если их «зацепят» на ранних сроках беременности.

В статье было описано, с какой точностью работала схема. Недовольный отец 16-летней девушки обратился к менеджеру магазина с вопросом, почему его дочь получает купоны на продукцию для беременных. А позже выяснилось, что его дочь была действительно беременна.

Раньше единственным цифровым ассистентом на рынке была Siri. С того момента на рынок виртуальных помощников вышли Алекса (Amazon), Алиса (Россия), AliGenie (Китай), Bixby (Самсунг), Clova (Андроид, iOS), Cortana (Windows), Google Now, Google Assistant и Mycroft (Linux).

Новые технологии, работающие в сфере данных – это неотъемлемая часть современной экономики. Специалисты по внутреннему аудиту должны понимать и внимательно следить за тем, как эти новые устройства и технологии повлияют на конфиденциальность, защиту данных и риски.

А как вы думаете, цифровые помощники – это стандартное офисное оборудование будущего или «тайное окно» для перехвата информации и прослушивания данных в работе корпоративного руководителя? Пишите ваше мнение в комментариях.

Оригинал статьи расположен по ссылке.

Советуем почитать