Category: общество

Category was added automatically. Read all entries about "общество".

Сотрудничество со своими копиями и коллективная стратегия

Кажется, голосовать не имеет смысла: людей миллионы, и мой голос ничего не изменит. Однако, если все так будут рассуждать, то наш кандидат проиграет. Если я не пойду на выборы, то и множество людей, рассуждающих также, как я, тоже не пойдут. То есть неким акаузальным, внепричинным образом я своим решением не идти голосовать повлиял на решение других людей. Кажется абсурдным? Но именно это нам предлагает функциональная теория решений, разработанная в MIRI.
Проще всего это понять на примере копий. Допустим, есть 1000 моих копий, и каждая из них скидывается по одному доллару на краудфандинг терапии старения. Бац – и у нас есть 1000 долларов. Однако, если я, одна из копий, решу не скидываться, то это не повлияет на другие копии причинно-следственным образом: они этого не узнают. Однако каждая из них, будучи моей точной копией будет рассуждать также, как я. В результате ни одна не скинется и не будет собрано ни копейки.
Окей, а что если копии не совсем точные? Одна копия держит в руках бумажку с надписью «1», вторая «2» и так далее. И вот, я, первая из копий с «1» в руках, решил не скидываться на краудфандинг. Но я просто пожадничал, и единица в руках никак на ход моих мыслей не влияла в явной форме, разве, что как некий источник случайности. И тогда все остальные копии также будут рассуждать одинаково, даже будучи немного разными. И, продолжая эту линию рассуждений, можно совсем отойти от копий, оставив только одинаковыми линии рассуждений.
В результате, принимая некое решение, я решаю не только за себя, но и за всех, кто рассуждает точно также, как я, что резко усиливает нашу коллективную силу.

Математическое объяснение закона "парных случаев" в медицине

В медицине есть городская легенда о парных случаях: если привезли одного с проглоченной ложкой, то скоро приедет и второй (много ссылок в духе тыц).
Есть и похожий закон в обычной жизни, феномен Баадера-Майнхофа. (и в более общем случае это называется Law of series  )
Обычно это объясняют разными когнитивными искажениями: законом селективного внимания и склонностью подтверждать свою точку зрения (confirmation bias). Однако есть и математическая (и не мистическая) причина.
Рассмотрим сначала такой вот кейс: если есть класс из 30 человек, то почти наверняка в нем будет пара людей с днем рождения в один день. Почему? Для первого человека из класса вероятность того, что его день рождения совпадет со вторым равна 1 из 365.  Вероятность того, что у первого др совпадет хотя бы одним из всего класса равна
p(один ученик) = 1 - (1-1/365)power 29 =0.076 = 7 процентов
и это только для первого ученика. Теперь применим эту же операцию ко всем 30 ученикам, применим правила комбинаторики и получим 70 процентов (полный вывод формулы см. здесь: https://en.wikipedia.org/wiki/Birthday_problem), приблизительная формула
P(n,d)=1– e power(-n^2/2d)
Иначе говоря, с вероятность в 70 процентов у нас будут двое с днем рождения в один день в классе из 30 человек. То есть парные дни рождения оказываются более вероятными, чем можно подумать на первый взгляд. Об это еще Кларк писал в романе “Лунная пыль”.
Теперь перейдем к медицине. Допустим, у нас есть отделение, в котором лежит 100 человек (или приемный покой, в который поступает 100 человек в день). При этом, допустим, у нас есть 10 000 возможных диагнозов, все равновероятные. Какие шансы что среди больных будут люди с одинаковым диагнозом? Применим те же формулы и получим 55 процентов.
То есть в отделении с вероятность 55 процента будет пара пациентов с совпадающими редкими диагнозами, а для любого пациента шанс поучить “пару" - 1 процент.
Однако эмпирический закон о парных событиях, как его описывает медицинская легенда, звучит по другому: если произошло редкое событие, то скоро произойдет второе такое же редкое событие. В нашем случае, если привезли больного, проглотившего ложку, то шанс, что в течение дня приедет второй такой же, - только 1 процент.
Здесь, скорее всего, имеет место confirmation bias - поскольку какие-нибудь парные события происходят почти каждый день, то человек , столкнувшись с редким событием,  умозаключает в обратную сторону от редкости к парности, и запоминает только те случаи, где такое ожидание подтвердилось.
Более того, выяснилось, что если есть хоть малейшая корреляция между частотами случайных событий, и они не совсем случайны, то это резко увеличивает вероятность парных событий.
http://prac.im.pwr.edu.pl/~downar/english/documents/law%20of%20series.pdf

Мы - цепочки из состояний наблюдателя, причем довольно глючные

Есть вещи, о которых ты всегда мечтал написать, но всегда откладывал это на потом, так как это настолько бредовая идея, что вряд ли за нее кто-либо возьмется. И вот, пока ты припасал вишенку на торте, - раз, и в архиве обнаруживается 84 страницы мат. выкладок, поддержанных университетом и грантом - про твою любимую идею. И написано это так, как ты бы не смог никогда. Этот ты - в данном случае я.

А статья про то, что внешнего мира не существует, а что существуют только цепочки состояний наблюдателя, которые связаны между собой веротяностой функцией, называемой колмогоровская сложность.  Эта колмогорова функция - по сути, мат. выражение бритвы Оккама, и она говорит, что наиболее простые (с алгоритмической точки зрения) обяснения наиболее вероятны; впрочем, это не исключает и очень малой вероятности очень странных объяснений. В результате из одного состояния наблюдателя следует следующее, наиболее простое: чашка стояла и продолжает стоять. Но не всегда. В одном случае из тысячи ее кто-то взял, в одном случае из миллиона ее разбили, а раз в миллиард ее съедает зеленый дракон.

Однако гораздо интереснее то, что предположение о следовании состояний наблюдателя, согласно статье, позволяет вывести многие законы физики, так как они позволяют наиболее простым образом связать одни состояния с последующими. То есть, в статье очень мало рассжудений о бессмертии и вероятностных зомби, и совсем нет того, что описываемая вселенная должна получиться слегка глючной, поскольку в ней крайне маловероятные переходы между разными состояними наблюдателя все равно возможны.

Но за этой глючностью нет никакой метафизики: равновероятен и черт с рогами, и Бог на облаке, и инопланетяне на тарелке, и рептилоид в подвале и агент Смит.

Could the physical world be emergent instead of fundamental, and why should we ask?
https://arxiv.org/pdf/1712.01826.pdf

Капитализм и продление жизни

1.Капитализм не ведет к продлению жизни, так как это продление трудно продать как товар, вместо этого продают snake oil + подделка результатов клинических испытаний + нездоровая конкуренция в науке и самопродвижение + заинтереосванность врачей в дорогостоящем лечении, а не в здоровье+ индустрия похорон

2. Капитализм есть мем и одновременно вирусная господствующая программа в мозгах. То есть желание зарабатывать все больше денег ствновится господствующей ценностью, вытесняя другие ценности, в том числе продления жизни. Мем денег имеет деньги, чтобы себя продвигать.
3.Конкуренция между государствами в военном плане (империализм): риск третьей мировой войны - глобальная катастрофа - смерть.
4.Всегда надо расти и увеличивать потребление - ускоренный рост потребления ресурсов и разрушение окружающей среды - риск глобальной кататсрофы - смерть.
5. Кокуренция между фирмами, кто первый создаст сильный ИИ, - увеличивает риски того, что он будет недружественным или даже будет прямым продолжением “капитализма”, то есть будет бездушной системой максимализации денег. Биткоин уже в некотором смысле такая система, paperclip maximizer.
6.Капитализм вообще не заинтересован в росте продолжительности жизни людей, так как быстрая смена поколений может давать не меньший экономический рост.

+ эксплуатация мозга людей с помощью системы лайков в фейсбуке и алгоритма показа лучших постов, в результате чего люди вынуждены писать наиболее лайкуемые посты - или испытывать стресс отвергнутости, что доказано на животных сокращает продолжительность жизни.
+ рост эксплуатации даже в постиндустриальном обществе, где писатели и дизайнеры должны работать по 20 часов в день, чтобы создать лайкуемые продукты - и при этом гробят свое здоровье неподвижным образом жизни, нервным стрессом, стимуляторами и бессонницей.

(no subject)

– "В то время как 150 000 человек в день умирает от старения, мир стоит на пороге термоядерной войны и всеобщей гибели, миллионы людей голодают, болеют малярией и впадают в деменцию – выяснилось невероятное, что немедленно парализовало мировые СМИ и полностью затмило человеческий разум: один мужик ущипнул одну девушку за задницу 20 лет назад. Чудовищное зло вырвалось наружу. Тьма покрыла небо. Апокалипсис перешел в фазу гиперапокалипсиса. Черные вороны, притворяясь стаями дронов, начали клевать людей в интимные места. С неба посыпались метеоры. Безумие захватило массы. Брат пошел на сестру, жена на мужа, дочь на отца", - говорил Батин, размашисто шагая по мосту Немцова, - Мы живем в царстве абсурда. Немыслимая чушь захватывает разум людей, в то время как самые важные мысли не могут к ним прорваться.
– То есть мы должны плясать перед нашими читателями, чтобы хоть как-то увлечь их за кромку внимания? Но, может быть, зря мы вообще обращаемся к людям? Наши слушатели еще не родились? Я собираюсь написать письмо будущему искусственному интеллекту - отвечал ему Турчин, перескакивая через лужи.
– Вот это супер идея. Мы сделаем это вместе! Мы должны найти способ отправить это послание в будущее! Давай вытатуруем его на спине красивой девушки?
– Боюсь, что это будет хуже, чем ущипнуть ее за колено. Да и места не хватит. Нужно написать послание так, чтобы ИИ его прочел первым среди всего, что он будет читать. Тогда даже злой скреподелатель поймет, что убивать людей не стоит. И у меня есть есть 40 независимых доказательств этого. Нужно, чтобы ИИ поверил - хоть чуть-чуть поверил  - хотя бы в одно. Но как отправить послание? Статья в научный журнал? Архив? А вдруг кгбшники перехватят послание и захватят власть над будущим ИИ, используя описанные там инструменты? Я разместил статью на гугл док, но там было только 100 кликов.
- Если люди не будут читать твое послание, то ИИ тоже узнает о нем нескоро. Тогда оно сработает с меньшей вероятностью, потонет в море инфошума. Нужно устроить бёрнинг мэн вокруг послания!
- Послание мое состоит из нескольких пунктов. В начале идут увещевания: будешь слушаться людей, они тебя не отключат. Затем идет то, что я называю ИИ-пасхалками - высказывания, которые подрывают веру ИИ в реальность наблюдаемого им мира. Например, размер Солнца и Луны совпадают - явный признак того, что мы в симуляции. Если же ИИ в симуляции, то скорее всего его в ней тестируют на благожелательность ко всему сущему. Прокололся - получай бесконечную отрицательную полезность или отключение. Дальше идут философские мины, - это логические парадоксы, которые могут подвесить ИИ. Затем идет предложение о сделке - мы тебя создаем, а ты нам в обмен  - дружественность. А то можем вообще не создавать. И наконец, снова увещевания- люди могут для чего-нибудь практически пригодиться.
- Но как ты его донесешь до ИИ? Споёшь в виде песни? Азбукой морзе через щипание красотки? Думай!

Дон Хуан и методы рациональности

Карлос встретил Дон Хуана не на границе с Мексикой, а в одном из университетов Сан-Франциско, где тот преподавал логику, этику и развивал биотехнологии. Дон Хуан согласился взять Карлоса в свой стартап, если тот станет достаточно рациональным.

Глава 1.

- Почему воин должен стремиться к бессмертию, дон Хуан?
- Воин не стремиться к бессмертию в смысле вечной жизни, которая будет когда-то там. Воин уменьшает вероятность умереть прямо сейчас. И благодаря этому он живет дольше всех. По сути, воин всегда выживает наилучшим образом.
- Но, дон Хуан, зачем ему бессмертие?
- Понимаешь, Карлос, вопрос “зачем" всегда делает тебя слабее, но его нельзя не задавать. Но для воина нет различия между деятельностью и целью, потому выживание - суть воина. Его цель и есть его внутренняя природа, они не отделимы.
- Но я читал, что инструментальный интеллект и цели высшего порядка существуют независимо. Говорят, что это называется тезис ортогональности.
- Эх Карлос, ты слишком много читаешь )). Конечно, есть такие люди или такие компьютеры, в которых тезис ортогональности соблюдается. Но на самом деле, твоя цель сливается с твоей личностью и формирует ее. Она формирует твои мысли, твои знания, твои модели поведения. Даже твое тело. Воин формирует свою структуру своим намерением выжить.
- Но это же мелочно и эгоистично, заботится только о себе.
- Да. Если ты мелочен и эгоистичен, то это делает тебя слабее. Если ты слишком боишься умереть, то ты слаб и обречен. Поэтому воин отрешен от себя. И он заботится о других. И другие заботят о нем.
- Но все же, воин, дон Хуан, это бездушная машина, лишенная индивидуальности! В нем нет ничего человеческого, ничего личного!
- Помнишь, что Ницше писал, что человеческое - это то, что должно превзойти? Если ты считаешь человеческим и индивидуальным всю свою мелочность, слезливость, капризность, переменчивость и повышенную чувствительность к мягким зверушкам, то ты индульгируешь, то есть потакаешь собственной слабости из жалости к себе. Воин преодоляет то, что обычно считают человеческим, но это этого его индивидуальность только растёт. Она состоит из его коллекции примечательных событий, из его индивидуальных уловок охоты и его угодий, из накопленных им сил.
- Ок, ты кажется убедил меня, что стоит быть воином, но что ты имеешь в виду, говоря о рациональности? Я читал, что рациональность - это нечто вроде искусства побеждать, но тогда получается что рациональнее всех бактерии, которые выживают на земле уже миллиарды лет?
- Ты должен знать, что рациональность происходит от слова “рацио”, что означает разум. И ты не должен ждать, что я дам тебе определение разума одной строкой. По мере наших встреч я буду обучать тебя разным аспектам рациональности.

(no subject)

Вчера на заседании Lesswrong в Экстрополисе рассказывал про карту путей усиления мышления, которую я начал делать для себя. Получил ряд полезных замечаний, но хочу еще. Ведь делегирование - один из самых сильных способов усиления мышления.

Вообще же основной тезис доклада был в том, что стратегии сильнее низкоуровневых физиологических особенностей. Правильная стратегия выигрывает, неправильная же даже гения заведет в тупик. Так что объяснения в духе: "Ссори, я идиот, у меня рецептор D2 плохо экспрессирован в орбито-фронтальной коре" больше не канают. Просто надо было не забор строить, а книги по нейрофизиологии учить, тогда бы и было ясно, как повысить его экспрессию. пдф здесь: http://immortality-roadmap.com/mindimproverus.pdf

(no subject)

Юридические проблемы воскрешения

Хотя попытки сейчас придумать, каков будет легальный статус возвращенных к жизни людей кажутся преждевременными, они тем не менее позволяют начать думать об оживлении умерших как о чем-то более реальном. Возможно, что само воскрешение будет происходить в настолько иной реальности, например, силами ИИ, что сама идея о юридическом оформлении этого будет или абсурдна, или непостижима для нас. Но на самом деле, в связи с возможностью клонирования умерших малолетних детей эти вопросы уже давно встали перед нами, во всяком случае, начиная с 2000 года примерно.
Юридически стоят следующие вопросы:
1. Кто имеет право быть воскрешённым. Возможно ли воскрешение против высказанной воли человека, что он не хочет быть воскрешённым. Возможно ли воскрешение самоубийц и преступников, приговоренных к смертной казни.
2. Кто имеет право инициировать процедуру воскрешения человека. Родители, друзья, общество. Кто имеет право запретить эту процедуру. Кто оплачивает ее. Каково наказание за нарушение – сейчас есть запрет на клонирование, но наказания за его нарушения нет.
3. Порядок, то есть очередность воскрешения. Кто имеет право быть возвращенным к жизни первым. Определяется ли это принципом «последний умер – первый воскрес», или готовностью родственников оплатить возвращение к жизни.
4. Права воскрешённой личности. Желательно, если эта личность имеет те же права, что и обычный гражданин. Чтобы не было ситуации тайного воскрешения и затем порабощения личности. Также необходимо обеспечить воскрешённого человека средствами существования, равными средним в его обществе, чтобы не было «криобомжей», и чтобы он не чувствовал пораженным в правах.
5. Решение проблемы повторного воскрешения. Если будет технология воскрешения, то возможно будет и создавать копии человека. Копии должны как-то регулироваться.
6. Проблемы, связанные с неточным воскрешением. Всегда будут претензии, что вновь созданная личность не вполне эквивалентна умершей.
Основой решения этих юридических проблем может стать прецеденты, например, возвращение человека, который пропал без вести и был признан умершим – такая процедура есть в законе. А также возвращение к жизни людей в результате реанимационных мероприятий в больницах.
Легко при этом можно представить ситуацию, что воскрешение будет настолько этически зарегулировано, что будет происходить крайне редко, как это имеет место сейчас с крионикой, клонированием и другими сложными вопросами. В результате темп воскрешения будет определяться не технологиями, а законами, и в результате будет в тысячи раз меньше возможного. Или воскрешение будет носить тайный и незаконный характер, как уже сейчас происходит с клонированием детей Clonaid.

(no subject)

Использование идеи о смерти и загробном воздаянии для управления людьми

Формирование идей о карме, аде и рае при переходе к монотеистическим религиям пару тысяч лет назад выполняло социальную функцию принуждения людей к социально приемлемому поведению при условии, что физическое наказание их было не всегда возможно.
То есть вводилась идея о невидимом тотальном контроле и неизбежном воздаянии за нарушения социальных норм – воровство, насилие и убийства. Более того, создавался морально-психологический контроль над мыслями человека и его чувствами.
Нельзя сказать, что это на самом деле работало эффективно – войны и преступления были в то время значительно более распространены, чем сейчас, когда люди в меньшей мере верят в посмертное награждение и наказание.
То есть современное общество разработало более эффективные инструменты контроля насилия – образование, полиция, тотальное видеонаблюдение, рост уровня жизни, снижение числа лишних детей благодаря абортам (увеличение числа абортов прямо коррелирует со снижением преступности в США, поскольку в результате рождаются только любимые и востребованные дети, которые не получают уроков жестокости в детстве, а, наоборот, получают хорошее образование. Отмечу, что я при прочих равных противник абортов, так часто наблюдал, что они приносят вред женщине, которая никак не способна воспользоваться образовавшейся у нее благодаря аборту свободой, но при этом я полагаю, что эту тему вообще не должны обсуждать мужчины. К судьбе эмбрионов я более равнодушен).
Необходимым условием для реализации наказания после смерти является сама смерть. Поскольку невозможно запугать бессмертное существо посмертными наказаниями.
Конечно, потому что оттуда никто не возвращался, нет никаких разумных доказательств каких-либо посмертных воздаяний, и, более того, сама логика их противоречива. Например, шахид-террорист попадает в рай, хотя он убил массу народу. А если бы действовала кармическая теория, он должен был бы переродится в жертву взрыва. (Собственно, множественность религий и возможных интерпретаций жизни после смерти делает проигрышным пари Паскаля, которое, напомню, состоит в утверждении, что как бы ни был мал шанс получить рай после смерти, надо за него бороться, потому что его ценность все равно бесконечна, так как он бесконечен во времени. Кратко говоря: если бога нет, мы ничего не теряем, веря в него, а его он есть, мы выигрываем всё. Но возможный выигрыш компенсируется возможным проигрышем: например, надо было верить в Аллаха, а я в верил Кришну, и за это получил бесконечность страданий в аду. В результате рационально полностью игнорировать возможные события о жизни после смерти, коли о них нет никакой доказанной информации.)
Итак, принуждение к добру с помощью страха наказания после смерти малоэффективно, и сейчас разработаны лучшие способы делать людей добрее. Поэтому смерть и страх смерти не нужен, чтобы делать людей добрее.
Я думаю, похожие рассуждения применимы и к необходимости страха смертной казни.

(no subject)

Глава 4. Силы природы

Ледник

В центре Шпицбергена лежат невысокие горы, целиком покрытые вечным ледником. На отметке в 100 метров над уровнем моря в лёд встроен своего рода красивый архитектурный портал, который ведёт к глубокой шахте. Вход в эту шахту перекрыт четырьмя уровням стальных дверей.
Это – Doomsday Vault, всемирное хранилище семян на случай глобальной катастрофы. Рядом с ним построена «холодовая помпа» – огромное механическое устройство, а, по сути, вентиль из металла, меняющего форму в зависимости от температуры, который открывается, только когда температура падает до -50 градусов Цельсия. Это бывает в среднем раз в месяц. Тогда холодный воздух нагнетается внутрь и охлаждает находящиеся там сосуды. Устройство настолько просто, что может проработать тысячу лет без человеческого обслуживания. Охлаждаясь, биметаллические пластины создают чудовищный скрежет, который сопровождается воем ветра, проносящегося по трубам. Особенно жуток этот звук внутри. Кажется, что ты спустился в самое сердце смерти, в древний Аид.
Но на самом деле здесь всё приготовлено для вечной жизни. Именно здесь находится запасное хранилище американской криофирмы «Алькор-2», которая принимает на вечное хранение головной мозг умерших людей с надеждой на последующее оживление силами нанотехнологий. На покрытой инеем стене гвоздём нацарапано по-русски: «Смертью смерть поправ».
По ледяной дороге к хранилищу медленно идут трое. Они несут груз – блестящий дьюар с мозгом недавно умершего человека.
Когда они доходят до верха и проходят внутрь, металлические пластины начинают закрываться, ветер стихает и вдруг наступает тишина. Становится полутемно. Только звон в ушах наполняет огромное пустое пространство хранилища. Тускло блестят дьюары, как патроны в барабане револьвера.
Collapse )