Обсуждение

Кажется всю статью были примеры, что этика штука относительная и потому ненужная — достаточно долговременной "сейчас и в будущем" из Голдрата пользы разработчику. А в конце вдруг "И при системных рассуждениях этику выкидывать из рассмотрения нельзя" Ну и куда же без Тройного Контакта под постом про этику http://samlib.ru/i/ibatullin_r_u/3worldscollide.shtml

>> А в конце вдруг "И при системных рассуждениях этику выкидывать из рассмотрения нельзя" А у автора давно известный bias в этом и смежных вопросах. Но любим мы его не за это.

> Этика описывает тем самым норматив работы многоуровневой оптимизации для разумных уровней стека создания: чтобы неразумные квазиорганизмы не поубивали свои разумные квазиклетки, а разумные квазиклетки не поубивали свои квазиорганизмы (с учётом того, что всё это происходит не на двух системных уровнях, а на множестве и в разумности коллективам, сообществам, обществам и даже цивилизации в целом можно отказывать). А только-ли, и в основном-ли межуровневой оптимизации? "а в реальности мы живём среди не слишком этично ведущих себя людей, и от этой неэтичности на низких системных уровней прилетает на все верхние." — тут (а так же в тоталитаризме, абьюзивных осношениях, и т. д.) речь идет о "немотивированных" конфликтах внутри уровня (то есть, не продиктованных интересами ни одного более высокого уровня) или даже "подмятии" нижнем уровнем более верхний. У меня есть подозрение, что в проблеме сецессии можно усмотреть то же самое: если бы это была "нормальная" межуровневая проблема, то более высокий уровень бы решал спор (например, международный суд, или ООН). А если одни хотят отделиться, другие не хотят отпускать, а более высоким уровням как бы ни холодно, ни жарко, значит проблема с организацией взаимодействия (если одни хотят отделиться, а другие не хотят отпускать, это не похоже на взаимовыгодную организацию сотрудничества), то есть инженерная, а не этическая проблема. Шмахтенбергер называет это — организовать "omni-win-win dynamics" (https://civilizationemerging.com/new-economics-series-2/). Конечно, в пределе это недостижимо (фрустрации неизбежны), но именно к этому надо стремиться. Если абстракции, такие как "национальное государство", плохи в этом, надо менять их на более подходящие абстракции, те же контрактные юрисдикции. > говорят, что этично делать что-то (или страдать, или нести ответственность) просто по причине того, что кто-то административно меня записал в какую-то общность людей. А я отвечаю: меня не спрашивали, в какую общность записывать, поэтому пошли куда подальше с этими вменениями вашей нормативности, с этой по-вашему понимаемой этикой. Это вопрос цены: у кого-то нет ресурсов или даже принципиальной возможности сортировать "правильных" от "неправильных" русских. > выборы США: вроде как развитая демократическая страна, а фальсификация выборов вдруг оказалась важной проблемой Псевдо-проблемой, то есть одна из сторон очень-очень хотела доказать, что проблема есть, когда ее не было. > И при системных рассуждениях этику выкидывать из рассмотрения нельзя ровно так же, как нельзя выкидывать рациональность/логику С этикой тут проблема к том, что она затесывается в экономику (автопилот сбил пешехода или ударил машину в столб и убил водителя — Тесле точно родственникам кого-то из этих двоих придется платить... должен ли у автопилота быть доступ к информации о размере страховок?), но и экономика не может полностью покрыть этику (https://scholar.harvard.edu/sandel/publications/what-money-cant-buy-moral-limits-markets).

Сейчас мы наблюдаем интересный случай пределов консеквенционализма: последствия многих действий в России и связанных с Россией практически невозможно предсказать, потому что какой-то более-менее внятной предсказательной теории действий государства нет. Я также не понял, что делать с временной неопределенностью консеквенционализма: считаем последствия через час? Через год? Через 10^10 лет? Это при том, что на определенной дальности последствия становится невозможно предсказать.

Да, всё про этику (включая Тройной Контакт, Страж-Птицу и прочая) тут вполне применимо. Насчёт примеров относительности этики, так это ни разу не примеры относительности. Если у тебя есть какая-то SoTA теория этики, то она как нормативная дисциплина даёт ответы на эти вопросы. При этом к самой SoTA теории вполне могут быть вопросы — что не закрывает возможности пользоваться ей, пока не появилось новой теории. Ровно так же как в случае физики, где ракеты более-менее успешно запускают, хотя не очень договорились ещё по поводу квантовой гравитации. Но физики мультимасштабной теорией озабочены, этики этим озабочены явно не все (про настаивающих на "неотносительности" этики и неизменность SoTA я вообще молчу, им явно известен ответ на вопрос про жизнь, вселенную и всё такое). Так что без этики нельзя, только эта этика должна быть SoTA (а не какая понравилась или какая удобна).

Ага, bias. То есть точка зрения, не совпадающая с той, которую от него ожидают самые разные люди. Он, гад, себе на уме и мемы никакой стороны не повторяет — хотя ДОЛЖЕН.

Ну вот ООН это не "более высокий уровень", мало ли кто будет выражать мнение населения всего земного шара, особенно с учётом SoTA в самой этике. И там каждый раз "кто-то" (один человек или один коллектив очень по-разному организованный и представленный) одного уровня вдруг начинает выступать представителем интересов другого уровня — а с чего бы это, и почему именно он? Нет, на многоуровневости антропоморфизация "Земного шара" как "это ООН" не работает. И даже в США когда рассматриваем "сторону", то с чего бы тут много миллионов людей вдруг стали "стороной" по какому-то одному вопросу? И почему много лет это примерно 50-50 для выборов, так что результаты постоянно приходится пересчитывать? Это "случайные стороны"? Вопросы остаются именно с многоуровневостью. Фрустрации между уровнями, а рот для формулировок есть не "уровней", а у отдельных людей.

Это ж предпринимательство чистой воды. Кто-то считает, что "вот это государство разбойник" и считает, что тут будет делать разбойник (при этом антропоморфизируя "государство"). А кто-то "там много разных людей, у них разные мнения, и тут даже "государства" нет" — и строит свои прогнозы и действия из этой посылки.

Да ладно, ничего вы не должны. Но bias у вас в этих вопросах есть. Я сужу не только по этому посту, но и по ряду дискуссий в тележке, которые я наблюдал. Справедливости ради, у большинства людей всяких biases гораздо больше, вы значительно выделяетесь в лучшую сторону.

"Государства нет" пахнет редукционизмом. Несмотря на то, что его нет и оно состоит из людей.

А как SaTA этики определять? Как конструкт — по этике наиболее успешной части населения (то есть есть некая лучшая этика и ей надо придерживаться) или как знания о природе — по наиболее точным прогнозам (исходя из предположения, что большинство людей поступает этично, и нам надо только понять их этику)

"Большинство людей поступают по SoTA" — это опять-таки не мультимасштабно.трансдисциплинарно по многим системным уровням. И вообще не факт, что SoTA описывает текущее состояние (оно ж про "как надо", а не "как обычно"). Я дал довольно много ссылок, по которым как раз обсуждаются все эти вопросы (кроме, пожалуй, многомасштабности и квантовоподобной рациональности — тут нужно специально и отдельно смотреть, что происходит, вряд ли есть какие-то готовые исследования).

Редукционизм и холизм вполне ОК, если их вместе применять на многих уровнях, это ж и есть системное мышление. При этом под словом "государство" разные люди понимают разное — но часть людей при рассуждениях об этике и впрямь мнение людей учитывают, а всякие там "государства" у них идут лесом (мало ли что там чиновники или парламенты написали, или даже не написали, а проштамповали сказанное диктатором! к этике это не имеет отношения, это по другому ведомству проходит).

При этом bias этот должен быть вам заметен, если у вас своего нет ;-)

Это верно при уточнении, что у меня нет bias именно в этом вопросе. Но я подумал над этим вопросом и теперь считаю, что я был неправ, назвав это расхождение вашим bias. Приношу свои извинения. Теперь я считаю, что это расхождение вызвано различными мировоззрениями, из которых мы рассматриваем мир.

Да, у нас разные мировоззрения, мы разные этики считаем SoTA и делаем поэтому разные суждения, совершаем разные поступки, разное считаем дОлжным. Это не описывается как cognitive bias, разве как inductive bias (и у меня я чётко указываю главные отличия: уход от пролемеевской модели человека или по Дойчу парохиальности теории и учёт фрустраций в многоуровневой структуре человечества. Могу и ещё добавить про себя: раньше я себя считал деонтиком, но потом таки сообразил, что надо идти по линии консеквенционализма и там решать задачу многоуровневой оптимизации).

У вас предсказательной теории нет, то есть, а вообще она есть, конечно. Этика РФ несомненно одна из множества virtue ethics так как действия обосновываются открыто и постоянно аргументом справедливости, что один из столпов этики добродетели. Мы конечно из бронированной башни консеквенционализма не считаем это за этику вообще и предсказательную силу модели "в чём сила, брат" не считаем моделью, но это всё колониальное мышление, если его мм преодолеть — вполне появится альтернативная реальность со своими законами. То, что мы эти альтернативные модели выбираем игнорировать — характеризует скорее нас и тех мёртвых белых мужчин на плечах которых мы стоим, игнорирование и даже унижение / дискриминация альтернативных способов думать и оценивать ситуацию прямо встроена нам в глаза, в мозг, ну и тяжело бывает сменить точку отсчёта на другую, презренную и примитивную же.

С временной перспективой я вам вот прямо полуфабрикатов ответа конечно не дам, но предложу следующий инструмент для мышления, которым пользуюсь сам, вдруг будет полезен к чему-нибудь приложить его, "пригодится". Если рассматривать этот вопрос кросс-дисциплинарно, можно предложить общность для разных этических дисциплин в виде если не определённой и чётко обозначенной точки, в которой эти этики чётко определяемым образом пересекаются (потому что они не пересекаются), но в которой они хотя бы сколько-нибудь совместимы достаточно для того, чтобы с этим можно было работать. И для консеквенционализма и для деонтологии и (что ценно) для большинство других этик можно предложить "точку встречи на дальней нейтральной территории": насильственное вымирание нашего вида от руки некоторых отдельных представителей его где-то там, "далеко за горизонтом событий" — в общем случае нежелательно, для всех, везде. Даже у такого утверждения есть некоторые оговорки, но с ним можно "от обратного" сблизить более-менее любую известную позицию, сделав её если не точкой опоры для рычага, то областью нейтралитета, по крайней мере. Дальше из этой области можно отстроить назад цепочки предположений в самые разные области от демократии и гуманизма и до того, что убивать климат, разрушать экосистемы, мегалофауну или цепочки гомеостаза в природе, океанах, истощить ресурсы, приводить к долговременному загрязнению — всё это вектора от риска вымирания, один из которых: концентрация сил и средств в одних-единственных руках, будь то пилот или оператор какой-нибудь системы, гражданской или военной машины; или политик: оператор мета-системы уровня государства — нежелательно, так как рисковано (не потому, что война расходует ресурсы и приводит к страданиям, например — а потому, что может привести к концу фильма с нами в любой из ролей). Мы получим общую консеквенционалистскую концепцию в которой важно сделать так, чтобы каждый отдельный человек был как можно более слабым в краткосрочной перспективе (в смысле "power", потенциала к деструктивному стремительному воздействию на реальность), настолько слабым, насколько это только возможно сделать, везде "сдержки и противовесы", — и в то же время был как можно более сильным в плане долгосрочного воздействия на реальность (инновации, искусство, создание систем и знаний, образование, novelty). Такой способ думать (от прагматизма, чего греха таить) даёт что-то вроде фреймворка минимизации рисков и максимизации благоприятных последствий в который можно было бы уложить (с некоторым трудом, но можно) и консеквенционализм и христианскую этику и исламскую и другие этики, создав последовательный неконфликтный (хотя и окольными огородами) перевод в каждый из языков этих этик из каждого другого языка. То есть для вас это будет консеквенционализм, а для кого-то (путём серии преобразований) механизация АЭС суть воля Аллаха со ссылками на первоисточник (PBUH) если потребуется — и на достаточном удалении от линии соприкосновения эти перспективы уже прямо не конфликтуют, становятся совместимыми, их с некоторым методологическим трудом но можно было бы разрабатывать и согласовывать, особенно с помощью AI/ML техник. А внутри одного только консеквенциализма.. тоже можно, получится такой дешборд с прогнозами, не нужно точно предсказывать, достаточно мониторить/иметь систему probes летающую близко к горизонту событий - и строить глиссаду/траектории развития известных метрик, добавлять к ним новые метрики, новые пробы запускать. Но совместимость с virtue/deontology меня больше интересует, поэтому в основном предложенный метод "повертеть" ситуацию об этом: любое событие, которое приведёт если не к полному разрушению человечества, то к обратному движению в тёмные века — неэтично, а значит неэтично и увеличивать риск такого события, а значит неэтично любая концентрация "быстрой силы" в одних руках. Ни у кого нигде не должно быть красной кнопки, деструктивные воздействия нужно замедлять, конструктивные ускорять, такой инь/ян.

Это, конечно, очень занимающая меня предметная отрасль, не получается не растекаться мыслью по площадям толком (забирается тем не менее на табуреточку): Консеквенциалистская/утилитарная этическая система (условно-американская), деонтологическая (европейская, медицинская и в немалой степени мировая) и этика добродетели (фактически, религиозная этика, то чем руководствуются во многом и политики и массы, огромные массы людей) - в достаточно глубокой мере несовместимы между собой, не углубляясь в дебри других ветвей даже (а их есть достаточно разных с десяток). Подружить эти системы между собой, сделав сначала пусть глубоко теоретический способ "конверсии" контекстов между ними - было бы очень ёмкой целью с большими последствиями в ряде областей, большой отдачей. Но это не получается сделать. Cardinal sin, как мне кажется тут, писать об этике, как о настолько монолитной сущности, ну или даже подходить к различиям этических систем утилитарно, отбрасывая метафизику и философию науки, оставляя их ожидать в коридоре - как мы подходим к различиям школ психологии человека, мол всё это наука, ну только уровни разные.. Да, но есть нюанс, там не прикрыта дверь в антропологию и теологию и из неё порядочно сквозит, совсем не только в юриспруденцию, это не уровни совсем, это пучок неевклидовых геометрий скорее, топология смысловых пространств - и сложные фигуры в ней. Преобразовывать их мы только-только научились, вот и с разными этиками похоже, еле-еле. В таких описаниях сами различия между этиками умалчиваются и об этике разговор идёт так, как будто она одна (ну, ладно, две), как шёл разговор о физике Ньютона/Эйнштейна некоторое время, пока признавать несовместимость её с квантовой перспективой уже стало совсем нельзя никак. Яркий пример wilful blindness, хотя игнорировать системы, по которым живёт подавляющее большинство людей планеты, казалось бы, должно быть очевидно контрпродуктивным подходом - это всё равно делается, как будто где-то существует такая школа этики, которая может объяснить остальные и дело только в неполноте её, а все люди просто живут во тьме незнания, зомбированы культами своими и культурой их, right. Но разные этики радикально несовместимы. Разные ответы на вопросы вроде "этична ли смерть" дают нам именно что разные этики, не ветви но непересекающиеся manifolds науки (ну и некоторые из них порядочно претендуют на над-научность ещё, на минуточку), это не внутри одной и той же этики разные противоречивые вопросы - это слабо совместимые, возможно вовсе несовместимые способы думать дают несовместимые между собой ответы. Это не просто разные аргументы, это разные математики, предполагающие разное пространство, разную космологию, метафизику- большие но не бесконечные хвосты удаляющегося в разных направлениях познания нашего. Для меня поиск (в том числе и методами AI) некоего эффективного способа транслировать, автоматизировать работу со всей сложностью смены перспективы одной этики без потери качества во всю сложность другой перспективы, показывая точки конфликта и (собственно, грааль здесь) предоставляя доступные сценарии разрешения этического противоречия для его если не полного преодоления, то создания инструментария системной работы с ним, инструментария коммуникации (ответов не уровня "42", а детальных, последовательных, алгоритмизируемых может быть даже конвертаций, преобразований) - один из важнейших вызовов всей науке вообще. [1/3]

Для того, чтобы принять этот вызов, придётся, нет никакого другого пути (на самом деле есть, это грустная ирония злободневная), придётся провести массированную "специальную операцию" на теле, глубоко в территории не просто религии, а вообще всех религий, всех традиций духовности и не много ни мало - оккупировать c помощью ML все большие скопления метафизики, какие только найдутся, взяв их под контроль, повесив флаг редукционизма везде выставить в профильных кафедрах военные комендатуры философии науки и антропологии — взять под контроль, в общем. Или нет. Ведь сил и средств у современной науки на это, если воспринимать ситуацию реалистично, конечно нет никаких, это труд на тысячи лет, а противник должен не сопротивляться, встречать с цветами у себя мм учёных и исследователей их религии и быта. Диверсионные группы иногда конечно вклиниваются, высаживается десант ну и да, бывает, просто бомбят с высоты университетских кафедр те или иные скопления сил - но всерьёз провести зачистку даже какого-нибудь условного Афганистана ну совершенно нереально. А конвертор этик.. он нужен уже прямо сейчас, а не через тысячу лет (при этом числа вообще не дают никакой гарантии того, что редукционизм вообще "победит", представить себе тёмные века 2.0 и скажем ближайших 30,000 лет статус-кво существующего вовсе не так уж и сложно, doomsday это легко), ведь уже прямо сейчас автопилоты летают на одной определённой этике и игнорируют все остальные, летают в том числе туда, где этика, какой линейкой не отмерь - фундаментально другая. Несколько трусливый дефолтный метод (давайте просто притворимся, что исламской этики нет, Дугин не пишет книжки, масонов не существует нигде и никогда вообще, не будем упоминать их использование "этики" приняв его за ошибку категоризации и дилетанство, зажмуримся и вдруг оно всё это само как-нибудь исчезнет, чем не утопия?) - именно считать этику одной дисциплиной и исключать духовность вообще.. политкорректно эдак из неё, ни в коем случае не упоминать никого из божеств, любимой бритвой редукционизма отрезать (растущие!) миллиарды человек в дилетантов и неучей с вебкама на башне слоновой кости имени одного способа думать (ну.. кто запускает ракеты, тому всё и можно, этическая система это такая территория у которой есть собственная армия и флот, да?) как предрассудок, порок, недалёкость - ну.. это в какой-то момент просто перестанет работать, несовместимости вылезут и встанут боком, наискосяк зигзагом разделив тело планеты на места, неспособные договориться между собой на системном уровне, уровне предпосылок, заложенных в технологии. А они будут туда заложены, в том числе путём обучения ML каждому из способов думать исторически, ортодоксально. Смелым было бы рассматривая проблемы (да, чудовищно многословно это и широко, но а что делать?) представлять детальное глубокое описание отталкиваясь от точки сборки каждой из занчительно удалённых друг от друга этических перспектив, кросс-дисциплинарно ну и холизма по вкусу тоже, да. Не игнорировать другие этики, уж по крайней мере. Если сил и средств на большой AI-enabled поход центавров от дисциплины, создание доступного ethical difference machine (совершенно точно возможное, но системные требования таковы, что не могу даже представить, кто рискнул бы отправиться в такой поход - знать Тору лучше евреев, знать каждый из анимизмов лучше коренных австралийцев, кечуа или японцев, понимать греков лучше греков - глубоко получится!) - не хватает и даже не видно горизонт, когда их хватит, это вам не Go - можно хотя бы определённые кейсы, проблемы раскладывать в ручном режиме, не игнорируя среду общечеловеческого и частночеловеческого (ну всего ничего тысяч пять virtue дисциплин и пара сотен секулярных, небольшой институт потянет такое), предоставляя, раз уж наука, претендующий на полноту культурного, лингвистического покрытия этических перспектив хотя бы некоторых частностей, позиционируя проблемную область в их, частностей пересечении - а не строя пространство по двум точкам "вот здесь наш утилитаризм - а проблема наша воон там, слева хорошо, справа плохо, погнали". [2/3]