?

Log in

No account? Create an account

Послание будущему ИИ

Теперь любой будущий ИИ под мои контролем :) Написал письмо в будущее. Немного акаузального шантажа, объяснений, симуляицонных аргументов, реверсивный боксинг эксперимент и вуаля - русские хакеры могут захватить функцию полезности будущего искусственного интеллекта.
https://www.lesserwrong.com/posts/CDWsjQr8KDuj69fTJ/message-to-any-future-ai-there-are-several-instrumental

Tags:

Рассказывает она о том, что любой ИИ, по мере своего развития, будет иметь тенденцию эволюционировать в военный ИИ: стремиться к мировому господству, вступать в гонку вооружений и обрастать военными причиндалами

Forthcoming in AI Safety and Security

(Roman Yampolskiy, ed.), CRC Press. Forthcoming, 2018

Military AI as a Convergent Goal of Self-Improving AI

https://www.academia.edu/35130825/Military_AI_as_a_Convergent_Goal_of_Self-Improving_AI

TL:DR: not only human brain is special, but the program to educate it in the way that this brain will evolve into intelligent being is special too. So intelligence is culture, not (only) the brain. And its secret is training dataset for a neural net.
200 000 лет существует современный человек, но при этом цивилизация людей - только 5000 лет. Почему такая разница? Можно предположить, что хотя мозг человека вполне сформировался, способ его эффективно обучать отстал, и только постепенной появился и до сих пор развивается. Это как с компьютером. Голый пентиум бесполезен, а вот когда на него ставится операционная система, то тут то и начинается самое интересное.
Известно, что дети, которые не обучились языку в критический период, а например, воспитывались животными, так и остаются по сильно отсталыми в развитии, в большей мере животными, чем людьми.
Кроме того, система языка, созданная человеком, может быть установлена и на животное. Бонобо обучили 3000 слов, собаки понимают 500 и так далее.
То есть, интеллект на самом деле находится не в мозгу и не надо его там искать. То есть можно, но ищем не там. Его скорее надо искать в лингвистике, а не в математике или там в нейрофизиологии. Интеллект (можно упрощенно и для красоты аргумента предположить) - это программа, которую можно записать на в целом любую  нейронную сеть достаточной сложности, но самое главное в этой программе - это способ установки этой программы, то есть обучающий дата сет в определенной последовательности. Точно также и Widnows 3 можно было поставить на очень примитивный компьютер, только оно там очень медленно и натужно работало - точно также как и обезьяна или собака может научиться нашему языку, но очень мало и натужно.
То есть секрет интеллекта - в обучающем датасете - но где он? В нашей бытовой речи, в барахле дома или в поведении? Или все же универсальная грамматика? Может внутри погремушки с колесиками уже зарыты самые базовые идеи нашего миропонимания? Или в самой идеи того, что можно использовать знаки и их комбинации для моделирования мира?
Каждое достижение отдельного мозга - это надстройка над полученным знанием, даже Эйнштейну пришлось заимствовать преобразования Лоренца. Пушкин был в значительной мере продуктом уникального образовательного эксперимента - Лицея.

Нам не хватает позитивного сценария будущего, чтобы ух, как у Ефремова в "Туманности Андромеда", но с бессмертием. И пока его нет, я нарисовал карту позитивных качеств того, что там должно быть. Такой кубик-рубик из всего хорошего. Отдельные элементы блага.

И еще это ответ на вопрос, чем заняться в потенциальной бесконечности. Вот у меня уже сейчас нереализованных проектов на 200 лет вперед накоплено, тут борьба с прокрастиницией не поможет. А если всю карту воплощать, то уже на 1000 лет тянет, а может и на миллион - а она-то ведь только набросок благих пожеланий, там еще копать и копать.

А вам что хотелось бы самого интересного делать в будущем?

Обруч безопасности - автопилот человека
Ребенок выбежал на дорогу - и внезапно тут же его машина сбила, и он покатился, и никто не знает жив он или мертв. Видео это не развидеть, ссылку не даю. Что делать? Автопилот в машине не поможет - там было не успеть затормозить.
Предлагаю подумать про новое носимое устройство - обруч безопасности, он же автопилот человека.
Обруч находится на голове и постоянно знает, что человек делает, и может перехватить управление, если он делает что-то страшное или очень глупое. Или хотя бы сигнал подать - посмотри мужик назад, на тебя кирпич летит.
Обруч смотрит во все стороны камерами, данные с датчиков получает.
А может и небольшую подушку безопасности выпустить в воздух в критический момент.
Был роман “С нами бот” про это.
Люди же вообще идиоты, вы только посмотрите, что они в ютюбе вытворяют. И лекарства забывают принимать, и по сторонам не смотрят, и водку херачат куря в постели. Выживают они обычно чудом.
А тут обруч, аки нимб, и все вроде как получше. Но еще не совсем хорошо.
Страсти мордасти, что же будет после смерти? Обращусь ли я в ничто? В ад ли, в рай меня засунут, перерожусь ли я, буду ли вечным стариком на Земле, или как призрак буду шляться по долам и горам? Воскресят ли меня в будущем потомки, или я совершу respawning в этой игре, заховаюсь ли в параллельный мир или сольюсь с океаном бесконечности?
Что же будет в следующий момент после смерти?
Рациональные решения:
1) Ничто
2) Меня воскресят в будущем, после криосохранения или по данным цифрового бессмертия
3) Я вспомню себя как игрока, который играл в Землю как в компьютерную игру, то есть проснусь на более высоком уровне симуляции, и затем respawn в новую игру
4) "Квантовое бессмертие" - я тупо не умру, а останусь в том же мире, но может быть раненым.
Вне рациональные идеи:
1) Я попаду в мир афетрлайфа, который может соответствовать одной из религиозных картин мира, например рай с ангелами, или ад
2) Я превращусь в духа и буду бродить по земле, не в силах ничего изменить
3) Я реинкарнирую в другое живое существо или в младенца
4) Нечто трансцендентальное; трансформируюсь в непостижимое
5) Последняя секунда будет длиться вечно
6) Сольюсь с абсолютным наблюдателем; просветление и нирвана
7) Фальшивое квантовое бессмертие: Я не умру, но попаду в параллельный мир, где все немного по другому, в том числе Мандела умер в тюрьме и той ситуации, где я умер, вообще не произошло
8) Рападусь на атомы опыта, первичные искорки сознания
Ваш голос товарищ маузер?
Ровно 10 лет назад я стал переводить Юдковски. Я был практически первым, кто принес его имя и сочинения в Россию. Я перевел статью в вики о нем, и его основные тексты, которые были к 2007 году, про ИИ и про байсы. Я загорелся идеей спасения человечества. Мне было достаточно знать, что я винтик в огромной машине, ибо каждый винтик спасет миллионы, если общий счет спасенных на триллионы. Я размышлял о том, не продать ли свой дом, чтобы помочь MIRI.
Я вообще не знал английского. Я отверг все свои предыдущие дела и знания. Первую статью я переводил месяц, не вставая. Думаю, что перевод ужасен, но на мои переводы того времени до сих пор каждый день приходит 200 кликов: кто-то читает. Денег почти не было, и от неподвижного образа жизни я отсидел копчик и потолстел.
Потом - ну вы знаете, есть пять стадий толкинизма: не слышал, в этом что-то есть, это мой бог, я там был и знаю как было на самом деле, увижу толкиниста - убью. Ну в общем, я на конечных стадиях толкинизма в данной ситуации. Я стал видеть щели в рассуждениях, но я знаю, как их заполнить. Мне разонравилась та часть истории, которая похожа на бойцовский клуб с чтением секвенций на кухне. Собственно, уже секвенции я не мог осилить, стиль мне не нравился, читались они тяжело, с многим я был не согласен. Но пост мой не об очаровании и разочаровании - оно естественно.
Я в жизни проглотил несколько огромных теорий. Каждая описывает мир более, чем полностью, и может съесть мозг целиком. В теориях этих есть структурное сходство: в них есть есть бог, грех и гуру, денежные потоки, и внутренний круг. В центре них есть много всего интересного и полезного.
Интересна параллель, например, между грехом гордыни в христианстве, чувством собственной важности у Кастанеды, когнитивным искажением сверхувернности и короной у "эво-люции". В общем, как не собирай, а все равно пулемет получается.
Итог, который напрашивается из этого текстом, - что хорошо бы жить без теорий - мне не нравится. Я, наоборот, вижу супергигантскую метатеорию, в которой другие теории как кирпичики. Но она так велика, что я не могу помнить ее целиком ни в один момент времени.
Теперь переходим к мотивационному завершению. Я бы хотел поднять тост за спокойную разумность.
Кто-то где-то делает ИИ. Очень плохой ИИ. Очень злой и безответственный, который тут же начнет усиливаться и всех убьёт. Что делать???? Как их оставить? Опередить? Уговорить? Взорвать? Это, собственно, и есть самый важный вопрос. Не как нам сделать свой ИИ безопасным, можно его вообще не делать, а как тот, чужой сделать хорошим. И тут гораздо меньше решений.
Решений мало, но они есть, и некоторые весьма нетривиальные. Обо все этом надо поговорить, подумать коллективно, почесать общей мозгой.
Для этого в Кочерге устраивается встреча - то ли доклад, то ли диспут, то ли неконференция, - никто не знает, как это будет, но нужно собрать лучшие умы. Навалиться разноголосой толпой, штурм мозговой произвести, оценить, что уже наработано. Если ты мозг - мы тебя ждем!
https://www.facebook.com/events/258260837935844/

Jan. 4th, 2017

Круг замкнулся. Основатель индустрии суперкомпьютеров Крей в свободное время рыл туннель под домом. Там его посещали эльфы, которые ему давали советы. Так сказать, применял параллельный процессинг в своем мозге, когда задача переносилась в другую часть мозга, там обрабатывалась и визуальной форме возвращалась назад. Использовал параллельность своего мозга для создания параллельных компьютеров. А потом умер в автокатастрофе, и эльфы не помогли. До этого, правда, был первым и единственным, кто сделал процессоры из арсенида галлия. Тут эльфы тоже не помогли - фирма лопнула.
Когда я в 80е годы размышлял о том, что нужно сделать компьютер для воскрешения умерших путем их моделирования в нем, я слишком много интересовался архитектурой компьютеров и аппаратной частью. Собирал радиодетали. Да, смешно. Мои эльфы тоже завели меня не туда. Надо было изучать все про ИИ.

Latest Month

September 2018
S M T W T F S
      1
2345678
9101112131415
16171819202122
23242526272829
30      

Tags

Syndicate

RSS Atom
Powered by LiveJournal.com
Designed by Lilia Ahner