Интересно Почему детская игрушка заставила США переживать за нацбезопасность и причем тут ИИ?

[Sepultura_North]

​

От Фёрби до Фобии: игрушка 90-х вызвала панику АНБ​

24 января, 2024

Почему детская игрушка заставила США переживать за нацбезопасность и причем тут ИИ?

В сети стали доступны официальные документы, подтверждающие, что в конце 90-х годов АНБ было обеспокоено игрушкой Фёрби (Furby). Эта игрушка, оснащенная чипом искусственного интеллекта и способная повторять услышанные фразы, была чрезвычайно популярна в то время. АНБ опасалось, что Фёрби может представлять угрозу безопасности.
По информации от издания 404 Media, документы были обнародованы в ответ на запрос о свободе информации, поданный пользователем @dakotathecat соцсети X*, который из любопытства решил узнать, есть ли официальное подтверждение истории, опубликованной газетой Washington Post в 1999 году.
Согласно истории, АНБ якобы запретило сотрудникам проносить игрушки Фёрби в офис из-за опасений, что игрушка может быть использована в качестве инструмента шпионажа. В АНБ были обеспокоены тем, что люди заберут игрушку домой, а Фёрби начнет разглашать секретную информацию, которую услышал в офисе. Средства массовой информации по всему миру, в том числе BBC, The Guardian, CNN и другие, распространили информацию о предполагаемом запрете.
Когда люди впервые принесли Фёрби домой, роботы-питомцы сначала говорили и пели на « Фурбиш », полностью вымышленном языке. Но со временем игрушки заговорили по-английски. Именно эта предполагаемая способность к обучению привела к запрету на использование Фёрби на объектах АНБ. Чиновники полагали, что в роботов потенциально встроены устройства, способные записывать и повторять конфиденциальную информацию.
Ответ на запрос @dakotathecat содержал 60 страниц документов, включающие обсуждения сотрудников о потенциальной угрозе безопасности от Фёрби, внутреннюю записку с попыткой управлять распространением истории в СМИ после публикации Washington Post и список всех СМИ, освещавших историю.
Ключевым звеном в истории является политическая записка АНБ, первоначально опубликованная в конце 1998 года, которая включает в себя вопрос от встревоженного человека, который заметил пару Фёрби, гуляющих по офису АНБ, что побудило его запросить официальные указания от руководства.
В одном из запросов сотрудника АНБ говорилось: «Меня беспокоит, что новая игрушка на рынке содержит чип искусственного интеллекта. Эти мягкие существа учатся манерам речи поблизости. Кажется, это может быть проблемой безопасности, поскольку они могут подхватывать любой разговор и повторять его».

Запрос сотрудника АНБ, в котором выражены его опасения по поводу игрушки​

Официальный ответ был менее конспиративным. В нем просто отмечалось, что «личные фото-, видео- и аудиозаписывающие устройства являются запрещенными предметами. Сюда входят игрушки, такие как Фёрби», без явного упоминания искусственного интеллекта.
Некоторые сотрудники АНБ действительно выражали беспокойство. Один из них предположил, что «ИК-порт игрушки может хранить сигналы от любых засекреченных беспроводных систем поблизости». Находящиеся поблизости Фёрби общаются друг с другом, используя инфракрасный порт между глазами.
Другие же отнеслись к ситуации более спокойно. Один из сотрудников предложил: «Большинство систем обработки речи записывают образцы аудио для статистики. Очищает ли Фёрби эти буферы? Сколько информации содержится в образце? Мы могли бы начать исследование, чтобы узнать это, но попросить людей оставить их дома кажется проще».
Однако, согласно патенту игрушки, Фёрби на самом деле не изучал новую информацию. Вместо этого в игрушку был заранее запрограммирован английский словарь, который со временем стал доступен владельцам во время игры. Также в патенте не было упоминаний о записывающих устройствах, содержащихся внутри игрушки.

Схема Фёрби из патента​

Кроме того, Tiger Electronics, дочерняя компания Hasbro, опровергла утверждения АНБ о том, что игрушка может записывать или повторять секретную информацию. По словам компании, игрушки просто повторяли заранее запрограммированную информацию.
Согласно статье IEEE Spectrum 2019 года, исходный код Фёрби был написан компьютерными инженерами Дэвидом Хэмптоном и Уэйном Шульцем для работы на вариации микропроцессора 6502 — 8-битного чипа, который использовался в Apple II, Commodore 64, и BBC Micro.
Таким образом, в конце 90-х в АНБ действительно были обеспокоены потенциальной угрозой безопасности, связанной с недорогой игрушкой, оснащенной искусственным интеллектом.