Гарри Поттер и Методы Рационального Мышления (джен)

ТемныйСвет, нерациональные, в данном случае, я воспринимаю как самопротиворечивые или же неисполнимые в принципе. Если идеология... нет, пожалуй, лучше употребить понятие "глобальная/конечная цель". Так вот, если глобальная цель (или список целей) не противоречит сама себе и является исполнимой (в том или ином роде), то он находится с рациональностью в перпендикулярных плоскостях. Рациональность - это свойство методов достижения целей, алгоритмов, планов, действий. Конечные цели следует судить моральностью, общепризнанностью, глобальностью, гуманистичностью - но не рациональностью или разумностью.

Матемаг
Но дело в том, что если глобальная цель включает в себя (пусть даже как средство) необходимость серьёзно обидеть достаточно крупные группы людей, рациональность должна подсказать, что этим крупным группам идея не понравится, и они могут как-то ответить :) И даже какие-то третьи группы могут вмешаться, просто от страха, что и до них потом дойдёт очередь :)
Поэтому и с помощью рациональности можно отмести ряд глобальных целей как довольно рискованные :)

Alaric, только в том случае это верно, если цель изначально на ранг ниже инстинкта самосохранения. А если нет? Я говорю не только о фанатиках, но и, например, о людях чести и героях. Рациональным ли будет решение закрыть своим телом вражеский пулемёт во имя победы в войне и, в итоге, сохранения независимости Родины? Рациональным ли будет уничтожить себя вместе с целым городом, чтобы остановить смертельное неизлечимое заболевание? Взорвать себя и мирных жителей, чтобы попасть в рай? Убить одну половину человечества, чтобы спасти вторую? Устроить глобальный финансовый кризис, чтобы стать мультимиллиардером? С помощью рациональности можно отмести идеи, составляющие метод достижения цели, как рискованные. Как то: закрыть собой пулемёт, взорвать город или мирных жителей, убить 1/2 человечества и устроить кризис. Да, эти методы могут быть не самыми эффективными. Но если, с рациональной точки зрения, они самые эффективные - почему нет? И, да, рациональность может оправдывать и риск, полагаю.
Отсутствие проды => флуд:)

Alaric
Абсолютно ЛЮБАЯ "глобальная цель" неизбежно включает в себя необходимость серьёзно обидеть достаточно крупные группы людей.

Матемаг
абсолютно прав: рациональность- метод.
Границы допустимого и цель задаются исходя из другого.

Угу, причём в фике об этом тоже сказано :)

Я немножко не о том. Мне почему-то подумалось о вариантах вида "сильной рукой загнать человечество к счастью". И тут возникает размышление: Известно, что такие попытки в истории предпринимались неоднократно. С плачевным результатом. Можем ли мы при всей нашей рациональности сказать, чем наш метод лучше всех ранее использованных и почему он не приведет к тому же плачевному результату?

Цель действительно задается из других соображений, но рациональность может отсечь часть целей как заведомо недостижимые. Ну и да, она может позволить обнаружить, что идеология самопротиворечива, чем, на мой взгляд, страдают очень многие идеологии :)

Alaric
Ваш первый абзац весьма и весьма спорен. Все зависит от точки зрения. И в зависимости от этой точки зрения (читай "от условий задачи") при помощи рациональности можно придти к совершенно разным выводам.
Сама же "точка зрения" определяется не рационально. Потому как таким сугубо оценочным понятиям как "сильная рука", "счастье" и т.д. и т.п. нет места в области чистой рациональности.

arantis
Мой первый абзац заканчивается вопросом :)

>> Потому как таким сугубо оценочным понятиям как "сильная рука", "счастье" и т.д. и т.п. нет места в области чистой рациональности.

Я утрирую и мне кажется, что это очевидно :) Но, по-моему, с таким же успехом можно прицепиться к любой, хоть сколько-то распространенной идеологии :) И доказать, что в её формулировках множество оценочных понятий, которым нет места в области чистой рациональности. И далее мы столкнемся с вопросом: а как методами чистой рациональности мы будем достигать целей, которые методами чистой рациональности не описываются? :)

Элементарно шеф :)
Распишем схему достижения этой идеальной цели и будем пошагово к ней идти. В алгоритме достижения цели - методы уже спокойно могут применятся :)

Добавлено 08.06.2012 - 15:52:
Ты просто можешь отдельно избрать своей целью - нахождение рациональной цели и тоже применять методы :))

>> Распишем схему достижения этой идеальной цели и будем пошагово к ней идти. В алгоритме достижения цели - методы уже спокойно могут применятся :)

Это работает, только если у нас есть линейный алгоритм. Но в жизни не всё так просто, и линейные алгоритмы можно построить не всегда. Зачастую надо уметь проверять, насколько далеко мы сейчас вообще находимся от цели. А как это сделать, если мы не умеем определять цель методами рациональности? :)

Мы не умеем ОПРЕДЕЛИТЬ цель методами рациональности, но мы вполне можем ОПИСАТЬ цель мение оценочными понятимя.

Необходимая поправка: под словом "определять" я в данном контексте подразумеваю "дать определение". Прошу прощения, двусмысленно получилось :)

Что касается можем мы описать цель или не можем, то это как раз зависит от цели, и об этом я собственно и писал выше :)

Я похож на злостного флудопровокатора?:)
Думаю, определить цель можно даже формально, конечно, будет некоторая неопределённость, поскольку язык описания естественный, но выработать довольно однозначные критерии того, достигута ли цель и в какой мере она достигнута - не проблема. Конечно, надо знать, что такое "всеобщее благо", "планетарная справедливость", "личное счастье" и "исполненный долг", а не оперировать тем, о чём имеешь отдалённое представление. Рациональные методы, кстати, могут позволить выработать точные критерии, сократить определение, отбросить внешнее и оставить суть нашей Великой Цели.

>> Я похож на злостного флудопровокатора?:)

Ну, лично меня спровоцировать на флуд никакого труда не составляет :)

В целом согласен, но у меня есть впечатление, что если цель включает подобные параметры, то при формальном определении есть изрядные шансы обнаружить противоречивость :) Впрочем, обосновать эту точку зрения я не могу.

Я вас не вполне понял.
Вот смоттрите:
1)
Есть цель: всеобщее ЩАстье. (цель, конечно, совершенно бредовая, но именно по этому мы и возьмем ее для примера)
2)
Мы можем описать счастье только в сугубо оценочных понятиях. Рациональностть здесь не подойдет.
Но нам нужно что-то, к чему можно подойти с рациональной точки зрения.
Мы думали, мы думали и наконец придумали:
Мы будем считать людей счастливыми, когда они сами будут о себе так думать.
!!!Внимание!!!- теперь у нас есть ОПИСАНИЕ счастья с которым можно работать рациональными методами.
(Пример задачи: разработать и воплотить в жизнь механизм беспристрастного сбора сведений о мнении людей).
3)
Составляем возможные планы действий, попутно устанавливаем "рамки допустимого" (если мы ранее этим не озаботтились).
3.1.1)Вариант№1:
Наладить промышленный выпуск наркотиков и "посадить на иглу" всех людей.
Цель будет достигнута?- Да.
3.1.2) Но этот метод нами не принимается по ЭТИЧЕСКИМ соображениям. РАЦИОНАЛЬНО он вполне себе хорош.
Занимаемся формализацией, описываем что нам не нравится, описываем "рамки".
3.2...)...
3.3...)...
3....
....
Грубо, на всккидку, но вполне понятно.

Alaric, Тут всё зависит от, собственно, цели. Если человек сам для себя даже примерно не может сформулировать её - то о каких формальных критериях вообще идёт речь? А так бывает весьма и весьма часто. Однако определить, что есть, допустим, анархический строй, коммунизм, технократия, теократия, планетарная республика, Земная Империя - вполне себе реально. А они могут пониматься разными группами людей как то самое "всеобщее благо", причём критерии достижения и промежуточные результаты достаточно точно определимы.

arantis, хех, помнится, как-то в детстве читал роман, в котором описываются "злые" роботы с ИИ, которые были изобретены ради "всеобщего щастья". В итоге они взбунтовались против бедного создателя и пошли насаждать добро и принуждать к справедливости. Наркотики употреблялись достаточно широко, равно как и ментальный контроль техническими способами. Жаль, название забыл.

Существовал культ Карго - это туземцы поклонялись технологии, например самолёту. Трансгуманисты не поклоняются, но некоторые из них занимаются не более продуктивной деятельностью. Так что говорить о силе идеологии как таковой не совсем корректно. Я об этом упомянул.

PS: обратим внимание, что под "рациональностью" понимает автор:
http://lesswrong.ru/w/Что_такое_рациональность
PPS: сейчас человечеству следует определиться, какую же цель должен преследовать ИИ, чтобы быть дружественным, вопрос на самом деле очень сложный, но если к созданию ИИ мы не успеем его понять, то всем крышка.
Это основная цель нынешнего сообщества автора.

Mr.Кролик
Вы это вобще к чему?

первое к комментарию о моём комментарии, с которого всё поехало
второе к тому, что сейчас происходит

Mr.Кролик, пожалуй, вы правы. Сама по себе идеология трансгуманизма ничего не значит. Нужно добавить к ней рациональность и наложить некие ограничения морали, иначе и до технофашизма докатиться можно. Интересно, как много трансгуманистов являются "настоящими" рационалистами хотя бы в обыденном понимании этого слова, то есть ставят достижимые цели и идут к ним разумными методами? Предчувствую, не так уж много...
Ну а формализировать всё эти человеческие понятия, да ещё и заложить в ИИ... Если не ошибаюсь, Юдковски над чем-то таким и работает. Причём довольно долго.