?

Log in

No account? Create an account

Previous Entry | Next Entry

К слову, если кто-то вдруг забыл,  -  у нас уже есть два сверхинтеллекта, и полезно изучать их, когда мы думаем о создании собственного.

Первый - это вся биологическая эволюция, которая смогла породить такую сложную штуку, как человек, а также его разум и его естественные языки.

Второй - это вся человеческая наука, если рассматривать ее как единый процесс.

Какие выводы мы можем сделать о будущем компьютерном сверхинтеллекте, изучая имеющиеся?

Система целей. По большому счету, оба сверхинтеллекта бесцельны. Это, конечно, поразительный факт. А также лишены самосознания и рефлексии (в науке она зародилась в виде наукометрии, но большой роли она не играет). Конечно, целью эволюции является выживание в каждый момент времени, но эта цель довольно техническая, она  нужна для осуществления эволюционного механизма. Но при этом они решат огроное количество разных задач. Я бы описал этот парадокс такой метафорой: не интеллект внутри задачи, а задачи внутри интеллекта, как вауколи внтутри клетки. То же и человек в своей жизни - ценности и задачи меняются, мозг остается.

Созанние. У эволюции его нет, в науке оно есть, но судя по всем, существенной роли не играет. То есть центра нет - ни центра восприятия, ни центра целей, а при этом любые задачи решаются. Также работает и бессознательная часть мозга у человека.

Мастер алгоритм.  Оба сверхинтелелкта реализованы по принципу  - сотрудничество множества малых интеллектов плюс естественный отбор. Эволюция невозможна без миллиардов миллиардов живых существ, которые тестируют разные варианты генокода каждое из них в целом решает свои эгоистические задачи и про глобальную цель вообще не думает. Например, мало кто думает, что выбор наилучшего партенра для брака - это инструмент эволюции вида (допустим, что половой отбор верен).

нтересно, что мозг человека устроен подобным же оразом - он состоит из миллиардов нейронов, каждый из которых не видит глобальной задачи его.

В науке за время ее существования было примерно, на вскидку несколько миллионов ученых. Большинство из них тоже решали разные задачи, а отбору подвергались наименее опровержимые теории (если рассмаривать соицальные механизмы здесь).

Безопасность. Опасен, но не враждебен. В эволюции возможны экологические кризисы, наука создает атомную бомбу. Внутри есть враждебные агенты, но они не наделены суперинтеллектом (тигр, государство). Но среде может возникнуть опасный агент, который силнее среды и ее съест.

Как создать наш суперинтеллект: допустим, мы согласны, что сверхинтеллект - это свойство среды с множеством агентов с разными целями.И мы создаем аквариум и в нем запускаем миллион разных агентов. Но  сверху настраиваем суперганта, который забрасывает туда задачи, а потом получает ответы.

Аппаратные требования: очень большие: нужно симулировать миллионы агнетов человеческого уровня.

Ускорение эволюции: ограничена скоростью и количеством агентов. больше агентов -  меньше скорость. Но наука в миллион раз быстрее эволюции. Переход на следующий уровень должен дать сопоставимое ускорение. Нужна вычислительная среда порядка 10 в 20 степени флопс, чтобы спмоделировать миллион мозгов. и в целом  это близко к суммарной мощи интернета. Может быть реализван как распредленная сеть, где отдельные агенты в руках отдельных людей-программистов и решают разные задачи. нечто вроде SETI-home или сети биткоин. Каждый может забросить в него задачу, но за это предоставляет часть своих ресурсов.

Теорема: сверхинтеллектуальная среда развиваетя по гиперболическому закону. Решение уравнения у Коротаева http://evolbiol.ru/korotayev.htm, а именно скорость роста завистит от квадрата числа населения, квадрат же получается следующим образом: одно N - это то что большого населения больше числа потомков, а второе N - это то, что чем больше население, тем больше изобретателей, которые приводят к росту технического прогресса и ресусров. Но у Коротаева это урванение дано только для численности населения, а на самом деле оно применимо и для эволюции - чем больше особей, тем чаще происодят важные и инетерсные мутации, так и для числа ученых (оно уже вышло на плато), а затем числа специалистов по искусственному  интеллекту,  а затем число ии-агентов, объединенных в сеть.

Следствие: если скорость света конечна, то сверхинтеллект должен уменьшаться в размерах, а не увеличиваться, иначе произойдет замедление обменом информации и скорость развития будет утеряна. То есть в сверх интеллекте должно быть небольшое по размерам ядро, размером с планету земля, например, а в будущем и еще меньше. переферия может быть огрмона, но выполнять технические функции: защиты и питания.

Следствие: сверхинтеллектуальная среда все равно идет к точке сингулярности, но точка не может быть средой. Упс.

Вопрос: можно ли придумать новый мастер-алгоритм, который будет лучше, чем ИИ-среда, которая по сути есть нечто среднее между генетическим алгоритмом и нейронной сетью? Это ведь два простых и так сказать древних способа усиления интеллекта, и можно придумать что-то получше? И тогда ИИ-агент с этим улучшением победит ИИ-среду, произойдет hard-takeoff и синглетон? Или же ИИ среда из множества ганетов всегда сильнее одного агента?

Пути усиления: рост числа агнетов, рост скорости работы агентов, рост скорости обмена информации между агентами, рост интеллекта каждого агента и рост принципов построения рабочих орагнизаций из агентов.

Проблема: курица или яйцо: сверхинтеллеутальная среда или сврех агент. Любые среду можно сверху накрыть агентом, который дает ей задачи и затем использует ее данные. С другой стороны, если есть несколько таких сверх-агентов, то они образуют среду.

Участие: хотя в науке участвует множество людей, большая часть биосферы в ней не участвует, а является ресурсом, а потом объектом охраны.

Comments

( 5 comments — Leave a comment )
chumakin
Mar. 2nd, 2016 11:27 pm (UTC)
про интеллект
Алексей Валерьевич, здесь Вы описываете Ваше представление об интеллекте. Я давно занимаюсь этой темой и начал приходить к таким выводам.
Во главе угла стоит наше общее представление о предмете, который в данном случае -- интеллект людей.
Это общее представление еще называется онтологическим и во многом похоже на некую упрощенную модель явления; фактически мы проводим большую часть рассуждений, отталкиваясь от этого схематизированного представления; это представление-онтология одновременно и дает нам вектор движения мысли и ограничивает полет этой самой мысли, вводя некую систему координат. Но без такого ограничителя тоже нельзя, ибо говоря, например, о музыке, мы все равно используем иную онтологию чем при обсуждении истмата.
Большое количество мыслителей пришло к необходимости помышления всего пространства интеллекта людей как некоего единого общего пространства. Эта линия Кондорсэ (французский энциклопедист), Вернадский, московский методологический кружок (Г.П. Щедровицкий, смдм), и сейчас кое-где по миру (например, Джейн Кулл в Австралии и многие другие конструктивисты).

Я поставил себе задачу дать такое описание Человека, чтобы можно было внятно обсуждать устройство Разума, сознания.
Пока что такие наброски:
-- обладающие возможностью разума люди своей кооперацией по поддержанию жизни создали новое явление, которое мне нравится называть ноосферой и которое я описывая гораздо детальнее, чем авторы термина.
-- ноосфера одновременно является и продуктом и средой, необходимой для поддержания работы индивидуального сознания каждого из людей.
-- с увеличением числа людей устройство их ноосферы (общества, цивилизации, разных его компонентов) становится все более сложным;
-- создается ситуация, когда части этого единого целого, анализируя работу этого целого, находят способы его целенаправленного изменения; эти люди-части работают в узловых структурных точках всей системы;
-- в каком-то смысле мы имеем огоромный организм, части которого могут и таки действительно влияют на изменение всего целого или его частей;
-- созданный организма настольбко велик и полифункционален, что отдельные его компоненты могут развиваться независомо от остальных частей, исчезать и появляться, причем вся ноосфера в целом сохранятся; и отдельные индивиды помышляют себя центром этого единого целого :):) -- веруют в собственную независмость от целого и т.п.;
-- проблема в том, чтобы увеличить прослойку этих знающих-понимающих и начать выработку более совершенных схем кооперации внутри ноосферы с целью оптимизации всего механизма с идеей быстрого продвижения в выбранном направлении.


как-то так:)

gritzhald
Mar. 3rd, 2016 11:58 pm (UTC)
Re: про интеллект

У Терри Пратчетта и его соавторов в книге «Наука Плоского мира» это называлось «экстеллект». Типа интеллект — он внутри, «in», закапсулирован в каждом из нас, а экстеллект — он скорее снаружи, «ex», вне нас и существует в распределённой форме. И экстеллект обеспечивает работу интеллекта.

Проблема в религиозных коннотациях. Велик соблазн обожествить экстеллект или ноосферу, предпосылки к этому встречались в творчестве самых разных людей — взять рассуждения героя Стругацких о незримом храме искусства, созидаемом всеми людьми, в служении которому и должен заключаться смысл существования для разочаровавшегося во всём остальном. Впрочем, он тут же оговаривался, что сам храм существует в свою очередь для людей — служить ему, как и служить чёткой работе водопровода, твоя прямая выгода.

Но поклонение экстеллекту может привести к попыткам наделить его самосознанием или служить ему словно некоему самодостаточному божеству, что может быть опасно для людей как людей. Причём второе даже опаснее первого — если ноосфера когда-нибудь будет наделена самосознанием, то, скорее всего, это произойдёт благодаря нейроинтерфейсному слиянию индивидуальностей отдельных людей, то есть их жизненные пути не прервутся, хотя и будут объединены, а интересы не обязательно ущемятся. Если же люди станут просто служить ноосфере как незрячему богу... я слегка нервничал, когда читал в трудах некоторых философов середины века рассуждения о Zeitgeist или «духе времени».

kot_1958
Mar. 14th, 2016 03:13 pm (UTC)
Тоесть предлагается что-то вроде Геи Айзека Азимова? Или Технокосма Александра Лазаревича.....

Edited at 2016-03-14 03:15 pm (UTC)
turchin
Mar. 14th, 2016 06:14 pm (UTC)
Описывается математический закон, который ведет от Геи к технокосму. там один принцип эволюции, грубо говоря.

впрочем, до математике дошло только в английской версии
http://lesswrong.com/r/discussion/lw/ne0/two_superintelligences_evolution_and_science/

Edited at 2016-03-14 06:15 pm (UTC)
evil_gryphon
Mar. 27th, 2016 06:29 pm (UTC)
"https://www.youtube.com/watch?v=UM8zbG0Bn_o"

реалистичный вариант загрузки разума в супер-компутер )))
( 5 comments — Leave a comment )

Latest Month

May 2019
S M T W T F S
   1234
567891011
12131415161718
19202122232425
262728293031 

Tags

Powered by LiveJournal.com
Designed by Lilia Ahner