November 26th, 2019

(no subject)

Далее я скажу нечто страшное, но обычно так и выглядят дискуссии на лессронг. Много слэнга и трудно въехать. Но идея на самом деле проста.
Я придумал способ помешать акаузальной кооперации плохих агентов. Мы создаем анти-кооперирующего агента, который предсказывает кооперацию плохих агентов, и создает отрицательное число их утилонов полезности, которое компенсирует весь доход от акауальной кооперации.
Например: одна фирма заинтересована в спасении крокодилов, но у нее лучше получаются спасать хорьков, а другая наоборот, хочет увеличить число хорьков, но лучше получается выращивать крокодилов. Они догадываются о сущестовании друг дурга, хотя и не могут обмениваться информацией. Тогда они могу акаузально торговать - то есть делать то, что выгодно второй фирме, в рассчете на то, что вторая будет делать то, что выгодно первой.
Однако, допустим, есть живодер, который хочет им помешать. Он может предсказать поведение обеих фирм, и если он предсказывает, что они начнут кооперировать, то тогда он идет в лес, и начинает отстреливать хорьков и крокодилов. Первые два агента также могут предсказать существование живодера и его стратегию, и в результате они вычисляют, что кооперация им не выгодна, так как живодер в среднем отсреляет столько же хорьков и кровкодлов, сколько они кооперативно произведут.

сама дискуссия на лессронге тут: https://www.lesswrong.com/posts/42z4k8Co5BuHMBvER/breaking-oracles-hyperrationality-and-acausal-trade