Meta AI — лишь одна из множества ИИ-моделей, появляющихся от существующих и популярных компаний. Однако привлекает пользователей прямая связь чат-бота с социальными сетями Meta, такими как Facebook и Instagram, которые люди уже используют для публикаций. Оказывается, размытие границ между социальными сетями и чат-ботами приводит к тому, что люди задают много личных вопросов, причем все это становится общедоступным.
Множество компаний добавили ИИ в существующие приложения, и модель Llama от Meta значительно улучшилась за последний год, хотя и не дотягивает до уровня моделей o3 от OpenAI или Gemini Deep Research от Google. Хорошо ей удается развлечение, и приложение Meta AI предоставляет его всем.
Принцип работы приложения Meta AI прост. Есть текстовое поле, которое позволяет напрямую общаться с моделью, и есть несколько вариантов того, как это можно сделать. Первый — текстовый ввод, который работает отлично. Второй — пользователи могут общаться с моделью голосом. При этом ваша речь записывается и обрабатывается, как и в любой другой живой ИИ-модели.
Суть в следующем: эти разговоры могут быть сделаны общедоступными относительно легко. После завершения разговора вы можете нажать кнопку «Поделиться» в верхнем углу. Согласившись, вы можете опубликовать свой разговор в ленте «Discover» Meta AI.
Похоже, многие пользователи публикуют свои разговоры, даже не осознавая этого.
Просматривая страницу «Discover», можно заметить, что многие пользователи, похоже, нажимают кнопку публикации без колебаний, будь то по ошибке или намеренно. За то время, пока я пользовался приложением, я видел абсолютно дикие запросы.
Эти публикации варьируются от пожилых людей, задающих Meta AI очень личные медицинские вопросы, до людей, которые используют ИИ для написания рекомендательных писем для своих друзей, проходящих судебные процессы. Многие из них также кажутся бессвязным бредом, и по-настоящему шокирует то, что модель Llama от Meta знает, что делать с этой информацией.
Одно конкретное взаимодействие содержало часовой аудиоклип пользователя, который, похоже, использовал Meta AI для сопровождения в долгом путешествии. Публикации состояли из вопросов, на которые пользователь, казалось, на самом деле не хотел получить ответ, и некоторых довольно неуместных вопросов, которые, вероятно, были результатом какой-то предыдущей незаконной деятельности — тех мыслей, которые могут возникнуть у вас в голове, но не должны быть озвучены, особенно когда они напрямую связаны с вашей учетной записью Facebook. Всё это происходило с реальной голосовой записью пользователя, что кажется чересчур личным.
Дело в том, что Meta AI напрямую связана с Facebook и Instagram. Это не анонимные поисковые запросы с моделью Meta AI, и они транслируются в виде публикаций, на которые другие могут оставлять комментарии или реакции. К чести многих пользователей, многие комментарии простые и напоминают первоначальному автору, что его разговор является публичным, и ему следует рассмотреть возможность удаления публикации.
Большая часть контента на приведенных выше изображениях была отредактирована, поскольку эти запросы слишком личные, чтобы быть общедоступными. Не требуется много времени, чтобы найти что-то отталкивающее на странице «Discover», или то, что, возможно, стоит обсудить с лицензированным терапевтом.
Можно утверждать, что это просто то, как работают такие социальные сети, и это может быть правдой. В любом случае, публичная лента Meta AI должна быть менее доступной для публикации. Иначе эти личные разговоры будут продолжать становиться общедоступными.
Источник: Business Insider