Обсуждение

Интеллект идентичный натуральному. Больше 10 лет назад, когда ещё на membrana.ru был форум, спросил у тех, кто там уповал на ИИ, берущего с интернета инфу: а судьи, мол, кто? Кто будет оценивать получаемую этим ИИ инфу? Вот скормят они сейчас ему такой мусор. И что получат? Если на входе шум, то на выходе сигнал не появится. А увеличение мусора/шума будет ухудшать уже имеющийся. А ведь люди столько ресурсов потратили.

Вот есть ли там гениальная находка? раз есть первопроходцы, то при должном финансировании за полгода-год все заинтересованные получат ручного софиста.

Ага, программа не удовлетворенная информационно будет чистить фейки и находить истину. Пропаганде кранты, а уж сколько профессий станет ненужными и совсем не водители ... :)

Генералы из "Голем-14" , развязывающие гонку интеллектронных вооружений...

"Текст написан мной собственномозгово и собственноручно, с очень ограниченной помощью компьютерного инструментария" "Не верю!" (с)

Бедные графоманы убьются об стол.

Попытка приписать ИИ некую моральность. Или что еще эпичнее, отдельные идиоты пытаются "встроить" мораль в алгоритмы ИИ (!!! и просто машинного обучения даже !!!). Ну и конечно понятно какую мораль туда собираются прописать эти деятели... конечно единственно правильную -- свою :)

Я правильно понимаю, Вы считаете мораль в ИИ не ввинтится?

Вместо искусственного интеллекта получилась искусственная интеллигенция (artificial intelligentsia). Предупреждал же нас Вейценбаум.

Мораль это некая система аксиом основанная в основном на скажем так -- "химических градиентах в мозге" + "некая конкретная система сублимации этих градиентов". С объективной реальностью это всё не связано, это является скорее оценкой полученного измерения как такового (что принять за "норму", а что за "отклонение"). Но отдельные "с инициативой" призывают что бы уже само "измерение" было интегрировано с "оценкой-нормой", иначе становиться понятным всем, что "норм" то сколько хочешь вокруг и все они фактически "одинаково обоснованы" :). А отсюда уже один шаг до идеи что "геноцид во имя любой морали это плохо", "верховенство закона не стоящего на стороне ни одной из моральных систем" и т.д. и т.п.. Очень скучно жить всяким политиканам становится.

Я не соглашусь, что все нормы одинаково обоснованы. Это все равно что утверждать, правда у каждого своя,- логическая ошибка :) Другое дело, что люди то и сами до конца не разобрались как работает их мораль, потому непонятно какую этическую модель встраивать.

мораль тесно связана с объективной реальностью и иначе быть не может

"Когда-то у нас велись диспуты верующих с неверующими, на которых единственным средством, единственным оружием была словесная мощь доводов обеих сторон (я оставляю в стороне «диспуты», в которых аргументом был кол, костер или плаха). Ныне подобный диспут велся бы при помощи технических средств аргументации. Мы бы действовали орудиями обращения, а закоренелые оппоненты контратаковали бы средствами, долженствующими переделать нас по их образцу или, по крайней мере, обеспечить им невосприимчивость к нашим миссионерским приемам. Шансы обеих сторон на выигрыш зависели бы от эффективности технических средств, так же как некогда шансы на победу в диспуте зависели от эффективности словесной аргументации. Ибо обращать неверующих — значит передавать информацию, заставляющую уверовать. — И все же, — упорствовал я, — это было бы не настоящее обращение! Ведь препарат, возбуждающий жажду веры и алкание Бога, фальсифицирует сознание: он не взывает к свободе разума, но принуждает его и насилует! — Ты забываешь, кому и где говоришь это, — отвечал настоятель. — Уже шестьсот лет как у нас нет ничего похожего на «естественное» сознание. А значит, нет и возможности отличить навязанную мысль от естественной, поскольку теперь уже незачем тайком навязывать какие бы то ни было убеждения. Навязывают нечто более раннее и вместе с тем окончательное — то есть мозг!" (С) Путешествие двадцать первое, 1971

Это ошибка. Все этические нормы и мотивы не имеют никаких логических оснований. Но основа одна --- биологическая природа человека (ну и то что способствует выживанию как виду в целом). Никаких иных побудительных стимулов действовать нет. Отличаются способы сублимации этой биологии в конкретные аксиомы поведения. Поскольку основа одна, то получаются перекрывающиеся множества этих "аксиом поведения". Проблема в "слепых пятнах" которые образуются при встрече носителей двух разных систем аксиом. Принципиально никакими логическими обоснованиями невозможно разрешение конфликта в таком "слепом пятне". Возможно два варианта -- "табу" на все что затрагивает "слепое пятно". И делегирование закону права на разрешение конфликта в зоне "слепого пятна". Закон при этом "о морали", но сам остается "вне морали" (иначе просто неизбежен геноцид и т.д. и т.п.).

нипонял

***Это ошибка. Все этические нормы и мотивы не имеют никаких логических оснований. если кратко, то мораль это правила общежития, которые вырабатываются в ходе совместного проживания, локальная оптимизация это и есть основания связанные с реальностью

побудительные мотивы совместная выгода, повышение шансов на выживание и комфорт, кооперативная теория игр

Это да. Кажись, единственный достойный враг этого писателя, потенциально возможный на стороне добра. Хотя и его обманывать наверняка смогут.

А как же идеалы гуманизма?

может в этом и есть великая сермяжная правда? Засрать информационное поле дешевым и массовым потоком так, чтоб даже самый последний идиот наконец перестал верить в то, что ему в газете написали и в телевизере сказали (видеоболваны, понятно дело, тоже недалеко, генерация не текста а картинки). Тем самым напрочь убить современную, выработанную за сто лет, масс пропаганду.