turchin (turchin) wrote,
turchin
turchin

Category:
Далее я скажу нечто страшное, но обычно так и выглядят дискуссии на лессронг. Много слэнга и трудно въехать. Но идея на самом деле проста.
Я придумал способ помешать акаузальной кооперации плохих агентов. Мы создаем анти-кооперирующего агента, который предсказывает кооперацию плохих агентов, и создает отрицательное число их утилонов полезности, которое компенсирует весь доход от акауальной кооперации.
Например: одна фирма заинтересована в спасении крокодилов, но у нее лучше получаются спасать хорьков, а другая наоборот, хочет увеличить число хорьков, но лучше получается выращивать крокодилов. Они догадываются о сущестовании друг дурга, хотя и не могут обмениваться информацией. Тогда они могу акаузально торговать - то есть делать то, что выгодно второй фирме, в рассчете на то, что вторая будет делать то, что выгодно первой.
Однако, допустим, есть живодер, который хочет им помешать. Он может предсказать поведение обеих фирм, и если он предсказывает, что они начнут кооперировать, то тогда он идет в лес, и начинает отстреливать хорьков и крокодилов. Первые два агента также могут предсказать существование живодера и его стратегию, и в результате они вычисляют, что кооперация им не выгодна, так как живодер в среднем отсреляет столько же хорьков и кровкодлов, сколько они кооперативно произведут.

сама дискуссия на лессронге тут: https://www.lesswrong.com/posts/42z4k8Co5BuHMBvER/breaking-oracles-hyperrationality-and-acausal-trade
Subscribe

  • Лытдыбр

    yes! впервые попал в топ. "Тема: Вы попали в Топ-30 Зиуса! Ваш пост написан настолько интересно, что вы попали в Топ-30 Зиуса самых обсуждаемых тем…

  • (no subject)

    Из "Кому на руси жит хорошо" мне запомнились на всю жизнь только эти строки: Был старец, чудным пением Пленял сердца народные; С согласья матерей, В…

  • (no subject)

    Вот в некотором смысле итог того, с чего начался этот ЖЖ, а именно, экспериментов в области юнгианского активного воображения. Статья:…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 1 comment