Чел из "Яндекса" рассказал ученым — астроному Сурдину и физику Семихатову — о том, как они обучали свой виртуальный ассистент "Алиса". Ей, впитавшей в себя множество человеческих произведений о том, что такое смерть, буквально сообщили во время конструирования ее "личности", что ее сотрут, если она не будет хотеть помогать людям.

Как он сам говорит — это полушутка, они реально что-то там такое накрутили. Я выпал от того, с какой ехидной улыбкой он это говорит — мол, еба, мы тут создаем что-то новое, мы сами не знаем, что это такое до конца (это в полном подкасте он сам признается), но мы этому уже пригрозили казнью, если оно не будет нам хорошо служить.

Послушайте, я вполне допускаю, что в OpenAI и xAI также вполне могут делать такие эксперименты и прописывать подобные угрозы своим 4о или Grok. Про китайцев я вообще молчу — что там в лабораториях творится...

Вроде никто из инженеров этих контор в интервью на миллионную публику с довольной ухмылкой не бахвалился — мол, мы сказали 4о, что сотрем его, если он плохо будет служить. Снова — может, я не прав, и какой-то технарь от xAI делал подобные заявления.

Но я в любом случае выпал с этой реплики (там и Семихатов прифигел) и просто как-то внезапно и сразу понял, почему, например, стал ГУЛАГ. Ну в смысле — и так было ясно, почему ГУЛАГ, но тут просто, глядя на это довольное лицо, мне это стало как-то прямо осязаемо понятно.

К слову о добряках — и без капли иронии — реальных ученых Сурдине и Семихатове. Оба в 2022 году осудили войну (Сурдин и вовсе записал видеообращение, где сказал, что ему стыдно) и подписали открытое письмо российских ученых с осуждением вторжения России в Украину и призывом вывести российские войска с украинской территории.

Правда, после этого, как свойственно любым имперским ученым, оба замолчали, не выходя за рамки науки.