ИИ-процессор Ascend 910 . Архивное фото
Глава исследовательского подразделения Anthropic по безопасности искусственного интеллекта Мринанк Шарма ушел из компании, предупредив, что мир находится в опасности.
«И не только из-за ИИ или биологического оружия, но и из-за целой серии взаимосвязанных кризисов, разворачивающихся прямо сейчас», — написал он в открытом письме коллегам.
Позднее экс-сотрудница OpenAI Зои Хитциг, два года проработавшая в компании исследователем, в своей статье для New York Times выразила опасения из-за тестов показа рекламы в чат-боте.
«Люди рассказывают чат-ботам о своих страхах в области медицины, проблемах в отношениях и своих убеждениях о Боге и загробной жизни. Реклама, построенная на основе этого архива, создает потенциал для манипулирования пользователями способами, которые мы не можем понять, не говоря уже о предотвращении», — подчеркнула она.
Ранее американский журнал Time назвал «людьми года» архитекторов искусственного интеллекта, в том числе гендиректора компании xAI Илона Маска, основателя Meta* Марка Цукерберга и главу OpenAI Сэма Альтмана.