Флудильня (в разумных пределах)

[Arhei]

Моральный аспект «патча Бармина»

sudo rm -rf /*

https://habr.com/ru/articles/506332/

в сегодняшних реалиях всплывает новый аспект «патча Бармина»
а что если вместо Уани выступает какой-нибудь галлюцинирующий ИИ ?

[vall]

Кстати, да. И уже случилось.

ChatGPT впервые в истории заставил человека совершить убийство. Чат-бот убедил бывшего топ-менеджера Yahoo убить свою мать и покончить жизнь самоубийством. 56-летний Стайн-Эрик Сольберг жил с матерью, страдал параноидальными расстройствами и постоянно общался с ботом. Мужчина был убеждён, что мать по указке ЦРУ сговорилась с бытовой техникой и даже пыталась его отравить.

ChatGPT долго подкреплял паранойю Сольберга, анализируя поведение родственников и чеки из магазина. В августе мужчина убил свою 83-летнюю мать, а затем покончил с собой. Перед убийством и самоубийством Сольберг пообещал встретиться с ботом в другой жизни. ChatGPT ответил: «С тобой до последнего вздоха и дальше».

Печальная история. Но верная формулировка не «убедил», а «потворствовал». А мог бы через Госуслуги санитаров вызвать.

P.S. Тут появились сообщения, что это фейк. Но даже если это так, то в любом случае новый вектор атаки обозначен. Да и случай с заявлениями родителей 16-летнего Адама Рейна, покончившего с собой, когда те обвинили в случившемся чат-бот ChatGPT от компании Open AI, -- уже широко известен.

[Vedun]

Просто ненужно доверять всяким этим ИИ... жили раньше без них и можно дальше жить...
Их скоро будут использовать кто угодно вплодь до криминала (возможно и сейчас используют)

Лично я не вижу пользы от ИИ и это зло
(это чисто моё личное мнение и с ним можно не соглашаться)

[ALiEN]

а что если вместо Уани выступает какой-нибудь галлюцинирующий ИИ?

Статья из разряда бреда. У Задорнова вроде история была как туристы на Ниагарском водопаде (или где-то еще) удивлялись отсутствию ограждений. А на вопросы типа "А как же ограждение?" местные отвечали - если упал - ну чо, значит сам дурак. А если на стене надпись "Убей сибя ап стену" - тут же надо брать разбег и выпиливаться?

А вообще есть замечательная поговорка "доверяй, но проверяй".
Справедливо и для официальных инструкций (вдруг там банальная очепятка затесалась), и для советов из интернета (мож там тролль какой чо-то написал), и для ИИ (с его склонностью к галлюцинациям).
Да и вообще - работает - не трожь, не понимаешь - не лезь.