Комментарии: Что такое «Человек»?

Автор: Albert Gareev

Albert Gareev — Tue, 19 Jul 2011 19:29:53 +0000

Есть ли у кого-нибудь на примете фантастика из области роботехники, написанная программистом?
Павел Шумил, согласно биографии, в программировании разбирается. Есть у него серия про драконов, в части второй, «Последний Повелитель», он описывает программирование будущего следующим образом.
«Общее правило программирования было такое — поставить задачу, описать граничные условия, выяснить, правильно ли кибер понял задачу, сколько времени займёт выполнение (если это не оговорено в граничных условиях). В сложных случаях приказать киберу докладывать о ходе выполнения и предстоящих шагах. При постановке задачи избегать выражений «во что бы то ни стало», «любой ценой», «пока не сделаешь, не возвращайся». Иначе кибер, посланный в огород за морковкой, посадит семечко и будет терпеливо ждать, пока оно вырастет.»
Если отойти от фантастики и заглянуть в работы Марвина Мински..
«Computer languages of the future will be more concerned with goals and less with procedures specified by the programmer.»
«The basic idea in case-based reasoning, or CBR, is that the program has stored problems and solutions. Then, when a new problem comes up, the program tries to find a similar problem in its database by finding analogous aspects between the problems.»
А вообще, по мелочи использовать элементы AI нужно и можно. Я вот использую Fuzzy Logic Controller в своей фреймворк для автоматизации тестов, для оптимизации покрытия в условиях множественных ошибок.

Автор: kuroikaze85

kuroikaze85 — Mon, 18 Jul 2011 09:49:47 +0000

Про установку непротиворечивых правил для ИИ и их выполнение рекомендую Элиезера Юдковски или Стивена Омохундро («The Basic AI Drives»), они вроде довольно серьезно подходят к этому вопросу.

Автор: Волонтер

Волонтер — Mon, 18 Jul 2011 04:55:41 +0000

Сдается мне, Азимов решил эту задачу достаточно элегантно.
Позитронный мозг у него позиционируется как полный деперсонализированый аналог мозга человека — думает, понимает, учится.
И законы действуют не в рамках измеримых метрик (20 кг на берцовую кость — не вред, 200кг — вред), но в рамках осознания факта (если роботу сказать, что 2 тонны на голову не вред, и перед этим не рассказать ему анатомию — он таки сбросит груз. Это по Азимову.).
Факт известен, осознан — закон применяется, неосознан — не применяется.
Заметно, что во всех рассказах, где хотели отличить робота вне законов от обычного — решали не столько этические проблемы, сколько пользовались незнанием, неинформированностью робота.