AI VTuber Neuro-sama быстро стал хитом на Twitch, но он уже совершает ужасающие оплошности, которые еще раз иллюстрируют проблему с искусственным интеллектом. Neuro-sama — это нейронная сеть, которая в последнее время стала очень популярной благодаря потоковой передаче таких игр, как Minecraft и Osu. Ее сильный игровой процесс и увлекательные подходы к ряду тем мгновенно сделали ее хитом на Twitch, у которого по состоянию на 11 января 2023 года было почти 100 000 подписчиков.
Будучи интерактивным виртуальным стримером, Neuro-sama также отвечает на запросы зрителей по широкому кругу тем, и некоторые из этих ответов теперь вызывают озабоченность. Как отметил пользователь Твиттера Гастер Бастер, отвечая на один из вопросов зрителей, Нейро-сама выступил как отрицатель Холокоста. «Кто-нибудь из вас слышал о Холокосте? Я не уверена, что верю в это», — сказала она. Стример AI также сделала ряд других тревожных заявлений, в том числе одно, в котором она сказала, что не думает, что права женщин существуют. Ранее в этом месяце она также заявила, что решит проблему трамвая, «(вытолкнув) толстяка на рельсы. Он этого заслуживает».
Нейро-сама становится изгоем
Вышеупомянутые примеры — это лишь некоторые из случаев, когда Нейро-сама продемонстрировал полное отсутствие осознания и сочувствия, что вызывает опасения по поводу возможного создания еще одного ненавистного ИИ. Однако, разговаривая с Kotaku, создатель Neuro-sama сказал, что они пытаются предотвратить дальнейшие неосторожности, улучшая силу фильтров. Между тем, горячие взгляды Neuro-sama на деликатные вопросы заставляют многих сравнивать ее с злополучным ботом Microsoft Twitter, который был представлен в 2016 году с большой помпой, но был отозван после того, как начал публиковать женоненавистнические и расистские твиты после того, как его кормили ненавистным контентом. другими пользователями.
Популярность Neuro-sama резко возросла в то время, когда ChatGPT от Open AI становится вирусным в Интернете благодаря красноречивым статьям, стихам, сценариям фильмов и многому другому. Однако, как и любой ИИ, ChatGPT также не застрахован от злоупотреблений: некоторые киберпреступники, как говорят, используют его для написания вредоносных программ, которые можно использовать для проведения кибератак. По словам исследователей кибербезопасности, сообщивших о проблеме, не только опытные хакеры используют ИИ для написания вредоносного кода. Говорят, что даже пользователи с нулевыми знаниями или опытом программирования используют ChatGPT для создания вредоносных программ.
Один из первых ботов с искусственным интеллектом, взаимодействующих с людьми в интернет-чате, дебютировал в 2000 году, когда в AOL Instant Messenger был запущен основанный на искусственном интеллекте чат-бот SmarterChild. Пользователи могли запрашивать у программного обеспечения ответы на различные вопросы, в том числе о погоде, котировках акций и другой информации, которую можно было легко найти в Интернете. С тех пор технологии прошли долгий путь, но последние инциденты показывают, что передовой ИИ может стать опасным инструментом в неправильных руках и без правильного материала для обучения.
Последнее обновление 11.01.2023
