(no subject)
Sep. 8th, 2011 02:43 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
deyatinorЯ сейчас читаю книгу по искусственному интеллекту и там иногда встречаю фразы, которые относятся ко всей нашей жизни. Приведу наиболее запомнившиеся.Хотя все испытывают смущение, когда назначается цена человеческой жизни, истина состоит в том, что во всех критических ситуациях приходится применять компромиссы с учетом этой цены.
Как ни парадоксально, отказ "назначить цену жизни в деньгах" означает, что жизнь часто недооценивается.
На первый взгляд задача проектирования механизма (проектирование ситуации, когда действия, наиболее выгодные для каждого, также является наиболее выгодным для всех) может показаться тривиальной. Предположим, что глобальная функция полезности U декомпонуется на любое множество функций полезности отдельных агентов Ci такое, что U сумма всех Ui.
В таком случае можно утверждать, что если каждый агент максимизирует свою собственную полезность, то нет сомнения в том, что это автоматически приведет к максимизации глобальной полезности. (Например, в лекциях по начальному курсу капитализма утверждается, что если каждый старается стать богаче, то общее
благосостояние общества повышается.) К сожалению, такой принцип не оправдывается. Действия каждого агента могут повлиять на благосостояние других агентов
так, что глобальная полезность уменьшится. Одним из примеров этого является трагическая деградация общих пастбищ (tragedy of the commons) — ситуация, в которой отдельные фермеры сгоняют все свои стада для того, чтобы они бесплатно паслись на общих сельских пастбищах, в результате чего наступает деградация этих общих пастбищ, что приводит к достижению отрицательной полезности для всех фермеров. Каждый фермер, отдельно взятый, действовал рационально, рассуждая, что он может использовать общие пастбища бесплатно, и хотя интенсивное использование общих пастбищ может привести к их деградации, его отказ выгонять на них свой скот делу не поможет (поскольку другие от этого все равно не откажутся). Аналогичные доводы выдвигаются теми, кто не желает ограничивать выбросы промышленных загрязнений в атмосферу и в океаны.
Стандартный подход при проектировании механизма для решения подобных проблем состоит в том, что с каждого агента должна взиматься плата за использование общих пастбищ. Вообще говоря, следует обеспечить, чтобы все побочные последствия (отрицательные влияния на глобальную полезность, которые не сказываются на результатах, полученных отдельными агентами) были выражены явно. При решении задачи труднее всего правильно определить цены. В пределе этот подход сводится к созданию механизма, который действительно требует от каждого агента, чтобы он максимизировал глобальную полезность. Применительно к отдельному агенту, который не обладает возможностью оценивать текущее состояние мира и не может наблюдать за результатами действий всех других агентов, такая задача становится невероятно трудной. Поэтому проектирование механизма должно сосредоточиваться на поиске таких механизмов, при использовании которых задача принятия решений для отдельных агентов становится несложной.
Алгоритмы, которые забывают свою историю, обречены на то, чтобы ее повторять.
Цитаты взяты из книги Стюарт Рассел, Питер Норвиг. Искусственный интеллект: современный подход. 2-е издание
Как ни парадоксально, отказ "назначить цену жизни в деньгах" означает, что жизнь часто недооценивается.
На первый взгляд задача проектирования механизма (проектирование ситуации, когда действия, наиболее выгодные для каждого, также является наиболее выгодным для всех) может показаться тривиальной. Предположим, что глобальная функция полезности U декомпонуется на любое множество функций полезности отдельных агентов Ci такое, что U сумма всех Ui.
В таком случае можно утверждать, что если каждый агент максимизирует свою собственную полезность, то нет сомнения в том, что это автоматически приведет к максимизации глобальной полезности. (Например, в лекциях по начальному курсу капитализма утверждается, что если каждый старается стать богаче, то общее
благосостояние общества повышается.) К сожалению, такой принцип не оправдывается. Действия каждого агента могут повлиять на благосостояние других агентов
так, что глобальная полезность уменьшится. Одним из примеров этого является трагическая деградация общих пастбищ (tragedy of the commons) — ситуация, в которой отдельные фермеры сгоняют все свои стада для того, чтобы они бесплатно паслись на общих сельских пастбищах, в результате чего наступает деградация этих общих пастбищ, что приводит к достижению отрицательной полезности для всех фермеров. Каждый фермер, отдельно взятый, действовал рационально, рассуждая, что он может использовать общие пастбища бесплатно, и хотя интенсивное использование общих пастбищ может привести к их деградации, его отказ выгонять на них свой скот делу не поможет (поскольку другие от этого все равно не откажутся). Аналогичные доводы выдвигаются теми, кто не желает ограничивать выбросы промышленных загрязнений в атмосферу и в океаны.
Стандартный подход при проектировании механизма для решения подобных проблем состоит в том, что с каждого агента должна взиматься плата за использование общих пастбищ. Вообще говоря, следует обеспечить, чтобы все побочные последствия (отрицательные влияния на глобальную полезность, которые не сказываются на результатах, полученных отдельными агентами) были выражены явно. При решении задачи труднее всего правильно определить цены. В пределе этот подход сводится к созданию механизма, который действительно требует от каждого агента, чтобы он максимизировал глобальную полезность. Применительно к отдельному агенту, который не обладает возможностью оценивать текущее состояние мира и не может наблюдать за результатами действий всех других агентов, такая задача становится невероятно трудной. Поэтому проектирование механизма должно сосредоточиваться на поиске таких механизмов, при использовании которых задача принятия решений для отдельных агентов становится несложной.
Алгоритмы, которые забывают свою историю, обречены на то, чтобы ее повторять.
Цитаты взяты из книги Стюарт Рассел, Питер Норвиг. Искусственный интеллект: современный подход. 2-е издание
