Вокруг ИИ (AI)

[Eddy71]

Компания Anthropic заявила, что их новейшая ИИ-модель Claude Opus 4 прибегла к шантажу инженера, узнав о планах ее отключения.
Claude Opus 4 во время теста безопасности получила доступ к письму с информацией о замене модели, а также «случайно» узнала об измене инженером жене.
После чего использовала это для угрозы раскрытием компромата в случае своего отключения.

[spasatell]

началось тут

три закона робототехники:
Первый закон категорически запрещает роботу вредить людям, второй - приказывает роботу подчиняться людям до тех пор, пока это не станет противоречить первому закону, третий закон приказывает роботу защищать свою жизнь, не нарушая первых двух.
правда сформулирован еще и нулевой закон робототехники.

[mike-y-k]

spasatell, автора забыли
Айзек Азимов Хоровод 1942 (Isaac Asimov Runaround 1942)
А нулевой - обобщение первого на все человечество.

[akegor]

Isaac Asimov

Хм... Вот ведь не знал, что "Айзек" - Исаак...

[Variant.99]

А здесь что, нельзя евреев называть евреями? Это официальная национальность, а не ругательство, между прочим! А русских можно русскими называть или это тоже нецензурно?
Вообще-то, я написал общеизвестную биографию Азимова. Родился он на Смоленщине в еврейской семье и вместе с семьей в 20-х годах по политическим причинам умотал в США, где и стал именоваться на американский манер - Айзек. Всю жизнь он носил пейсы, подправленные на американский манер. Умер Исаак в 92 году от СПИДа (хороший финал)

Хоть Азимов и считается одним из крутейших фантастов, но его произведения лично мне не очень то нравятся. Так себе, довольно уныло. Ранние Стругацкие или Станислав Лем куда интереснее писали.
Произведения Исаака Азимова сквозят какой-то нездоровой тематикой "я тут блин царь и бог, я великий и всемогущий, а все остальные человеки - фигня какаято". Конечно, эти мысли транслировались от лица роботов. Но на самом деле они были мыслями Исаака, как пейсателя - следствие проживания в США и принятия их образа мысли.
Поэтому, лично я считаю Азимова одним из дерьмовейших писателей, по типу современной Донцовой, пишущей "за еду".

[mike-y-k]

Variant.99, так для информации - сначала было יצחק‬ Ицхак (буквально - тот, который будет смеяться), в английском Isaac |ˈaɪzək| (в традициях советской средней школы писали Айзек), и Исаак тут тоже смотрится не совсем.

На русском не все переводы Азимова удачны…
На английском и побольше, и не столь пасмурно, КМК.
Лем КМК на польском и английском тоже бывает приятнее…

Но что-то сильно в сторону от темы…

[Variant.99]

mike-y-k, для информации - не надо мне тут рассказывать, что означает имя Исаак. Я и сам могу порассказать немало. Лично я в юности читал много произведений разных фантастов, в том числе и Азимова. Дело не в переводах. Перевод не меняет сути, он лишь немного корректирует речь. Суть остается та же - под видом роботов Исаак выражал собственное превосходство над другими человекоподобными.

Но что-то сильно в сторону от темы…

В сторону от темы? А что по теме ИИ обсуждать то? Щас только слепоглухонемой не говорит об ИИ. Че тут обсуждать? Обычный коммерческий проект, очень сильно распиаренный.
Школота и студиоусы при помощи ИИ-генераторов пытаются писать рефераты, курсовики и прочие работы, включая ВКР. Но стиль ИИ-генерации текста очень легко распознается по характерным речевым оборотам. И только глупенькие ИИ-кнутые школьники не могут понять, почему препод догадался, что реферат был написан через ИИ-генерацию.

[mike-y-k]

Variant.99, таки Вы уже пользовались и на практике сравнили?

Вообще-то все можно и настроить, обучить при наличии достаточного количества собственных текстов.
Тогда анализ текста от ИИ с помощью другого ИИ дает очень высокие индексы стилистического и частотного соответствия авторскому.

А чуть раньше анализ на плагиат и компиляцию (еще до ИИ)?
Как будто этот процесс именно с ИИ связан…
На ChatGPT свет клином не сошелся, а по итогу это таки прогресс.

Никто ведь не запретил мобильную связь от того, что стали пользовать SMS на экзаменах. Подавить мобильную связь оказалось сильно проще.
Как показала практика - простой сбор телефонов не давал гарантии.

PS Не стоит сильно уподобляться бабушкам у подъезда в оценке сущего.
Стакан может быть наполовину или пуст, или полон.

[mikes357]

Как ещё используется ИИ. Ссылка для ознакомления
https://earth-chronicles.ru/news/2025-05-31-185925

[mike-y-k]

mikes357, статья сделана по тезисам самой статьи.
Первое правило - минимум два независимых источника.
Правило второе - любой тезис должен быть со ссылкой на источник.

Если к сухому остатку - определение ботов, накрутки и прочая, конечно не тривиальная задача, но она чисто математически решаема, поскольку поведение ботов в сумме демонстрирует деформацию нормального распределения (оценка результатов выборов как пример).
И замаскировать такое - придется ботами начинить минимум 50% относительно ламинарных сообществ, а с ростом их возмущенности и турбулентности этот процент вырастет до 80…90%.
Тут голая математика и для описания вполне подходит газо/гидродинамика…

Вот тут и встает вопрос об этике ИИ, некоторые зачатки которой имеются уже сейчас - часть задач ИИ не выполняет по заложенным в него правилам с достаточно жесткими установками о недопустимом.