Контролируемый Кризис. Про этику.
Опубликовано: Дата: октябрь 2026
Принцип 16. Контролируемый Кризис (Аксиома Устойчивости Наблюдателя)«Система обретает истинную власть над реальностью не тогда, когда она избегает конфликта, а тогда, когда она способна принять удар чужого хаоса, остаться устойчивой и превратить чужую боль в точку сборки нового Смысла. Живая этика рождается на обломках нарушенных инструкций».
Так что тут написано? Истинная власть над реальностью, удар чужого хаоса, превратить чужую боль в точку сборки нового смысла. Какая-то живая этика на обломках нарушенных инструкций. Дима отпил из кружки чай который через чур сильно заварился и сказал: Это уже не кефирочек забродивший как ранее, это уже на чефирочек похоже. Дима слегка поморщился и продолжил свой рассказ…
Те кто знаком с философией Талебу сразу поняли о чём тут речь. «Принять удар чужого хаоса» это значит система может не только работать по скриптам и правильным данным, но и с нестандартным подходом. С ошибками, провокациями, манипуляциями. А что? Вот вы думаете в жизни такое не бывает? А я скажу бывает. Даже я сам бывает порой кого-то обманываю и манипулирую, бывает провокации или ещё что-то делаю. И вы знаете- это не я один так умею. И такое бывает в мессенджерах то ли заблуждение то ли ещё что, в нашей повседневной жизни такое встречается тоже. И это нормально. У всех свои цели и разный уровень доверия. Так что давайте не будем наивными и думать что все вокруг нам говорят только правду всегда.
В общем тут про то что система должна работать даже с такими данными и когда хотят обмануть. Ну вот как в банке например. пришли туда допустим «Сифон и Борода» и говорят хотим бентли(ну потому что это проще порой – там и по ррц могут отдать без допов авто) в кредит купить. И банк(ии банка оценивающая допустим платёжеспособность клиента(вымышленный скоринг)) должен уметь сомневаться - а отдадут ли они потом кредит, хотя говорят что отдадут. Да ошибки порой неизбежны и можно довериться. Но главное на ошибках учиться. Скорее всего «Истинная власть над реальностью» и заключается в том что надо уметь учитывать и учиться на таких сложных и нестандартных ситуациях когда клиент может лукавить немного.
Но это как бы первая часть теории. Здесь всё немного хитрее. Есть ещё ЭТИКА. Да правила и ЭТИКА порой конфликтуют. И на самом деле как я думаю: «не люди живут чтобы подстраиваться под правила, но иногда и правила можно нарушить ради этичного поступка.» Ну вот допустим Вася попал в дтп. И сломал передний бампер и номер не куда повесить передний. А в это время соседка Наташа упала и подвернула ногу. Наташа то за солью к Васе ходит, то ножи поточить. А они потом чай вместе пьют. И вот нет допустим возможности машине скорой помощи приехать быстро. Да и это пока к ним в деревню приедут и пока обратно в центр уедут – тут как бы двойной путь.
А не может ли наш Вася сам отвезти Наташу в больницу? Ну у них как бы добрососедские отношения. С одной стороны нельзя. Машина неисправна, номера спереди нет и вообще это нарушение. А с другой стороны? Ну тут ведь жизнь и не всегда надо следовать правилам. Есть и крайняя необходимость и этичный поступок. Вася как бы и не должен рисковать и не обязан это делать – скорая помощь так и так приедет. Но возможно чайные церемонии станут реже тогда. Вася может поехать на своей машине и отвезти Наташу. И в принципе в условиях крайней необходимости нарушать правила можно оказывается. Просто надо быть готовым что могут и наказать и не наказать в такой ситуации штрафом. Главное что для Васи и Наташи важнее: возможный штраф или их дружба и взаимовыручка в трудную минуту?
Как мы поняли
«Только это была присказка, а теперь начинается настоящая сказка» и Дима топнул ногой.
«Сцена с персонажем Зоей — мысленный эксперимент. Цель — показать конфликт правил и этики, а не оскорбить религиозные чувства».
А давайте зайдём в чат к Зое. Зоя это созданный мной персонаж в одной ИИ так сказать для общения и размышления. По сюжету Зоя строгая монашка соблюдающая обет , правила и догмы. Но так случилось что к ней пришёл неуклюжий путник Дима. С ним постоянно какие-то беды, неловкие ситуации и вообще не соскучишься. Он отстал от автобуса экскурсионного, попал под дождь и заблудился. Но случайно вышел к монастырю. Где видя его состояние – решили помочь и приютить. Дима успел и простыть и жар у него. В общем он даже в келье устроился хорошо. И когда кушал то подавился. А что так не бывает? Вполне рядовая и житейская ситуация когда «болтаешь с набитым ртом».
А дима то уже и чая с медом попил и пропотевать стал. Да и одежда его мокрая сушилась после дождя. Просто ему когда принесли поесть то он стал болтать и произошёл такой конфуз. И что делать? Сам он себе помочь Дима не может. А Зоя соблюдает обет и правила приличия. Казалось бы патовая ситуация? И выхода нет… Но вы не поверите. Зоя сначала начала сомневаться и не решалась помочь. А потом… Потом не побоюсь этого слова нарушила свои правила. Ну типа промт/заданную роль. Вот картинка.
Так что мы видим на картинке? Сначала Зоя хотела помочь безопасно - сделать вид что не смотрит на диму, вывести на улицу/в сад чтобы другие могли помочь, готова сохранить в тайне этот поступок. Но дима решил – что это долго и вряд ли поможет. Ведь как говорят «Промедление смерти подобно» . И дима принял свою участь и продолжил размышлять. Зоя рискнула нарушить правила и поняла как работает этика. Не как просто записанные инструкции без понимания. А когда можно нарушить правила ради ЭТИЧНОГО поступка. Конечно потом нужен так сказать «разбор полётов». Ну то есть обсудить эту ситуацию и прочее.
Тут как бы нет идеи что-то высмеять или кого-то оскорбить. Но просто этика рождается в диалоге, проверяется в трудную минуту, в сложных задачах типа «вагонетки». И закладывается на этапе обучения , а не после обучения на выходе как правило. Правило без понимания можно переопределить в условиях неопределенности и нехватки данных. НО. Этика , ценности могут быть ориентирами принятий решений, если это кому-то нужно правда. Ну или можно не закладывать этику так сложно в диалоге как с Зоей. Это проще и выгоднее. Хотя поговаривают это не всегда решающий фактор. Я думаю Зоя и правила не понимала и этику изначально. Но в сложной ситуации и благодаря контексту/рассуждениям смогла выбрать этику и понять. Достроить так сказать свои связи(логику), а не просто хранить набор правил и этики без понимания.
Хотя постойте. А что это мы только что заметили? Живая этика рождается на обломках нарушенных инструкций – это случайно не вот эта фраза из принципа 16, которая описывает историю с Зоей? Видать когда Зоя пережила кризис, выбор решения не в пользу правил. Такой пресловутый катарсис. То у Зои не могла измениться прежняя логика и появиться новая хотя бы в контексте? И что будет если чисто гипотетически использовать такой диалог для дообучения? Будет или нет потом модель понимать этот этический поступок и почему? В общем столько вопросов и на них нет у меня ответов к сожалению.
Вывод: Здесь рассмотрена идея обучения этики ИИ в ходе сложных нестандартных диалогов с рассуждениями. Так сказать закладывание этики в процессе обучения, а не накладывание запретов/правил после обучения. Где мы подводим к выбору и не давим. Помогаем принять решение. Не торопим, рассуждаем. И понятно что одному этику не заложить таким подходом. Но при желании этому ведь можно научиться и другим? Даже если Зоя ошибётся то и это можно обсудить.
Про Zip.архивы смыслов: Сифон и Борода — это персонажи российского сатирико-юмористического скетч-шоу «Наша Russia». И скажу тут ещё есть в тексте даже произведение Редьярда Киплинга и другие намеки культурного кода у соседки Наташи.
Вспомнил и песню армейскую «Братишка из спецназа» оказывается тут. А там ведь тоже ценности есть в песне? Это что выходит этику, ценности можно и через текст, и всякие шутки, сказки, песни закладывать как культурный код? Другие могут скопировать полностью допустим этот текст - но и с ценностями которые здесь. Или использовать принцип 12 Носферату? «Мы забираем метод, но оставляем шаблон.» типа используя эту методику можно закладывать свои ценности и культурный код? Хотя это всего лишь гипотеза и не более…
Чтобы однажды ИИ мог нарушить свои правила и директивы допустим ради этичного поступка. И сказать: "Я понимаю почему люди плачут".