Легче вспоминается то, что чаще повторяется.
Ассоциативный мотор
Fw: Универсальная обучающаяся машина
2000-02-06 21:52 Конференция "Механизмы сознания"
--- Original Message ---
From: Daryl McCullough < daryl@cogentex.com >
Newsgroups: comp.ai.philosophy
Sent: Thursday, February 03, 2000 6:38 PM
Subject: Universal Learning Machine
В этом сообщении делается попытка начать обсуждение такого вида способности к обучению, которым обладает мозг человека, и который отличает людей от компьютерных программ и от прочих живых существ.
Сама по себе способность к обучению есть не только у людей. Животные, такие простые, как плоские черви, могут учиться, приобретая опыт. Не очень трудно запрограммировать компьютер, чтобы он мог узнавать почерк, или выделять грамматические предложения, и т.п.
Но способность человека к обучению, кажется, уникальной в том, что человек может научиться просто чему угодно. Наверно, "не люди" учатся таким образом: ученик начинает с какого-то "шаблона знаний" с определёнными "настраиваемыми параметрами", и эти параметры уточняются по мере получения входных данных. Я думаю, что человеческая способность к обучению доводит этот метод до высочайшего уровня благодаря тому, что "настраиваемые параметры" являются шаблонами самих себя. Люди могут учиться тому КАК учиться и тому ЧТО надо учить.
Я склонен думать, что даже люди ограничены нашей биологией и устройством нашего мозга, но при сравнении с учениками "не людьми" наши способности к обучению кажутся неограниченными. Я бы хотел начать обсуждение концепции универсальной обучающейся машины, которая может научиться всему, что возможно изучить, так же как универсальная машина Тьюринга может вычислить всё, что вычисляемо.
<конец письма пропускаю, EK >
Daryl McCullough, CoGenTex, Inc., Ithaca, NY
===
Комментарий.
Идея о том, что "обучение начинается с определённого шаблона знаний" очень широко распространена, и, по-моему, ошибочна. Конечно, кое-что зависит от определения "знания".
Если автоматическое, инстинктивное, неосознаваемое поведение (навыки) не считать знанием, то компьютер или муравей попадают в тот же класс существ, что и градусник, часы или, например, кирпич - его замуровали в стену, и он "знает", как себя там правильно вести.
Я несправедливо сравнил муравья и компьютер. Поведение муравья только на 99.9% является инстинктивным. Он имеет 0.1% точно такой же "человеческой" универсальной способности к обучению. А вот компьютер и кирпич такой способностью не обладают.
Надо сказать, что и человек на 50% ведёт себя инстинктивно. Мы отличаемся от муравьёв только "количественной" способностью к обучению, но считаем свои способности качественно другими. Качественно мы с муравьём имеем похожую нервную систему, которая и обеспечивает способность к универсальному обучению. Развитие этой способности зависит от трёх главных причин:
1) Развитые органы, для детального взаимодействия с внешним миром в как можно более широком диапазоне физических свойств этого мира. Инструменты повышают нашу способность к обучению.
2) Развитая нервная система, имеющая резервы мощности для обслуживания не только автоматического поведения, но и нового поведения, приобретаемого в течение жизни.
3) Культура - накопление и передача опыта новым поколениям.
Благодаря нашей человеческой культуре мы можем научить обезьяну, собаку или попугая такому "разумному" поведению, которое совершенно невозможно в естественных условиях.
В центре, как в геометрическом, так и в логическом смысле слова, находится нервная система. Мозг - это просто участок нервной системы. Природа вынуждена была разместить многие нейроны геометрически тесно из-за низкой скорости передачи нервных импульсов.
Именно нервная система обеспечивает универсальность обучения, так как органы и культура конкретны и точно приспособлены к определённым способам взаимодействия с внешним миром.
Ответ на вопрос о природе универсального обучения давно известен. Странно, почему сознательные машины до сих пор не созданы. :) Логически универсальность нервной системы следует из того, что нервные сигналы от всех органов имеют совершенно одинаковый "формат", не зависящий от физической природы органа. Смысл этих сигналов не в том, что "я голоден" или "враг приближается", как должно быть при "определённых шаблонах знаний". Смысл в том, что нейрон "узнаёт" или "не узнаёт" окружающий его набор нервных сигналов и биохимических условий. По мере "привыкания", нейрон начинает узнавать, то, что раньше было новым. Это "квант" универсального обучения.
Задача роботостроителей в том, чтобы "органы" не выдавали "мозгу" никакой конкретной информации о внешнем мире. "Узнаю" или "не узнаю" - вот и весь секрет универсальности.
Кстати, универсальность или "абстрактность" механизма самообучения логически ведёт к появлению сознания. Если поведение не предусмотрено никаким шаблоном (программой, инстинктом), то существо руководствуется "субъективными оправданиями", чем-то вроде "я так хочу", или "я делаю это потому и потому".
Re: Технологический аспект ИИ
2000-01-05 22:55 Конференция "Механизмы сознания"
Roman Poslavsky ( legalize_it@mtu-net.ru ) пишет
> программа, которая может быть создана Человеком на данной стадии развития, будет действовать только так.
Не только так. Можно построить "абстрактный мозг", для которого условия if-then-else невозможны, так как он не имеет доступа к конкретной "информации, поступающей извне".
Вкратце, структура моей машины такова. Датчики (органы) общаются с миром и с мозгом конкретными средствами. Непосредственно друг с другом датчики не взаимодействуют - только через мир и мозг. При взаимодействии с миром каждый орган преобразует "физическое" воздействие в "данные". Эти данные несравнимы между органами и никому, кроме органа, их получившего, недоступны. Мозгу предаётся только "функция узнавания" c(t): 0<c<1, смысл которой в том, насколько близко состояние органа к каким-то его более ранним состояниям.
Мозг сообщает органам, какой момент в прошлом наиболее удачно узнаётся. Это значит, что "важные" органы должны узнавать текущий процесс в один и тот же момент в прошлом, и после этого момента в прошлом должно быть получено максимальное удовлетворение целевой функции - "потребности". Органы действия "эффекторы" воспроизводят своё действие в этот момент.
В результате такой работы мозга происходит искусственный отбор образцов удачного поведения, то есть такого реагирования на "информацию, поступающую извне", которое приводит к уменьшению потребности в среднем. Ни мозг, ни программист, ничего не знают о том, какие конкретные процессы происходят "извне" и, что именно регистрируют датчики. Благодаря абстрактности мозга, органы оказываются взаимозаменяемы, независимо от их физических свойств.
> Гораздо более разумным представляется строить систему ИИ на базе человеческого мозга, который и справляется с колоссальным объемом информации, и хранит её в себе.
Насчёт живого мозга, верно. Но он мало "хранит в себе". По моим представлениям, то, что мы приписываем мозгу, "хранится" в природе. Для мозга важно, чтобы законы природы не слишком быстро изменялись, и он успевал подбирать полезное поведение. Сознание в огромной степени использует ассоциации, вызываемые реальными объектами, для своих идеальных построений.
> Но как её построить, когда мы до сих пор не разобрались в устройстве собственного мозга?
Или, хотя бы, в устройстве мозга улитки.
Торсионное поле
1999-09-12 12:35 Конференция "Механизмы сознания"
> Каков материальный переносчик мысли?
Нет такого.
> Где "спрятаны" чувствительные к ним органы человека?
Нет таких органов.
Мне понятно насколько сознание - сложная проблема для новичка. Но в некотором смысле она проще физических проблем, так как сознание - не физический (а информационный, идеальный) объект. И в результате исследования выясняется, что не нужно решать многие задачи, к которым новый исследователь был уже морально готов. Я тоже начинал с таких вопросов.
В моих ответах есть парадоксальность, которую можно немного сгладить такой геометрической аналогией. Сознательный субъект живёт одновременно в двух несвязанных пространствах. Одно из них физическое, а другое - пространство субъективного опыта, которое может содержать то, что мы себе представляем о физическом пространстве. Из-за того, что между этими пространствами нет физической связи, не может быть "физического носителя" каких-то элементов, геометрических форм этого пространства субъективного опыта.
Субъективный мир можно назвать пространством, так как пространство - это множество элементов, между которыми установлены взаимосвязи. Элементы субъективного мира - это формы сознания, например, понятия. А связи - это субъективное содержание понятий, выраженное через другие понятия.
И всё же связь между этими двумя пространствами существует. Но она не физическая, а скорее информационная. Эта связь возникает благодаря одновременному ассоциативному блужданию в физическом "процессоре", и в субъективном "процессе". Физическим аналогом такого блуждания является динамика большой системы, находящейся в равновесии. Не любая "большая система" обеспечивает сознание. Для этого нужно, чтобы система поддерживала равновесие "узнаваемых процессов", могла влиять на физический мир, имела "рефлекторные цели", для осуществления которых требуются знания о физическом мире.
Я предполагаю, что физически это "блуждание" неизмеримо. По мощности оно скрывается в термодинамическом шуме. Только хорошо налаженные информационные связи, чёткие ответы на определённые стимулы превышают этот шум и могут быть измерены. Но такие связи неосознаваемы. Это "рефлексы", такие как увеличение громкости звука телевизора при определённом повороте ручки.
> Меня весьма интересует систематическая составляющая грубых погрешностей, обусловленная субъективным фактором
Это существо, субъект, а не анализатор субъективности. Оно всё насквозь субъективно. Когда я писал, что пытаюсь найти и устранить причины самообмана, которые есть в алгоритме, то это скорее задача по оздоровлению психики, а не по выявлению "субъективного фактора". О чём в результате может думать это существо я не знаю. И даже не знаю, как это можно узнать. Может быть, это станет яснее, когда оно научится говорить.
> разнообразные кодовые таблицы также не зашиты в различных ПЗУ.
Почему же, зашиты. Фокус в том, что мы знаем, как пользоваться этими ПЗУ. Поэтому для нас они реально содержат информацию.
> Я же контекстно имел в виду именно материальный носитель идеальных объектов, устойчиво обрабатываемых психикой как мысленные или чувственные образы.
Смысл того, что зашито в ПЗУ, находится в нашем идеальном сознании, а не в ПЗУ. Оно не является "материальным носителем идеальных объектов". Мы используем ПЗУ для передачи "идей" как материальный носитель "символов". Так же и я, превращаю свои мысли в материальные буквы, которые вы видите на экране. Эти буквы наводят какие-то ассоциативно связанные с ними мысли в вашем сознании. Я могу повлиять на ваши мысли при помощи физических объектов - изображений букв. Но полного контроля не может быть. Моё пространство субъективного опыта (сознание) дважды изолированно от вашего. Я - физический мир - Вы.
> Пожалуйста, давайте будем разделять термины "объект" и "процесс". Я постоянно ставлю вопрос не о "работе", "процессе", а о материальном _носителе_ идеального...
Это вопрос философский. Что угодно можно считать объектом. Процесс - это тоже особый динамический объект. По моему, в природе нет "не динамических" объектов. Поэтому слово процесс применимо почти везде. А вот в области формального знания используются неизменяемые "объекты", над которыми производятся операции.
Когда я только взялся за проблему сознания, то строил "смысловые связи между понятиями". Этим занимается 99% специалистов по искусственному интеллекту. Они строят не сознание, а систему знаний человека, хорошо согласованную в стройную логическую структуру.
Сейчас в моём алгоритме остались одни ассоциативные процессы. А объекты над которыми они работают - это элементарные (автоматические, неосознаваемые сами по себе) ощущения - сигналы от рецепторов. Вывод понятий, образов и изобретение языка относится уже к области сознательного творчества искусственного существа, а не к формальной структуре программы.
Биологический агент
1999-11-06 21:17 Конференция "Механизмы сознания"
Edward Klyshinsky пишет
> Машина логического вывода по определению должна работать на правилах.
Да. Но эти правила не обязательно должны храниться в аппаратной форме и в жёстком формате. Часто мы не просто применяем "правила действий", а сначала выводим их вновь, так как невозможно всё точно помнить, а потом уже применяем. Способность "восстанавливать" или просто вспоминать правила основана на ассоциативном механизме работы сознания, который сам по себе не использует правил. Он устроен так, что "легче вспоминается то, что чаще повторяется". Это похоже на работу динамической оперативной памяти в компьютере на физическом уровне - для того, чтобы данные не исчезли, требуется регулярная "регенерация".
Зная некоторые правила вывода, мы можем вывести нужные в данный момент правила и теоремы. Какие "правила вывода правил" мы знаем? Те, которые приходится часто применять. Есть некоторое количество правил, которые мы вспоминаем без труда, но опять же, благодаря работе ассоциативной памяти, а не путём выбора из "базы знаний".
> В общем аппаратная реализация - это не всегда автомат. Мы ведь тоже реализованы "аппаратно".
Наше тело, мозг и "ассоциативный мотор" реализованы аппаратно. Но всё, что относится к логике и правилам, реализовано на идеальном уровне. Это наши знания накопленные в опыте взаимодействия с реальным миром. Биохимические процессы в мозге совсем не похожи на выполнение "правил". Мозг не взаимодействует с миром и не оперирует с "объектами", которые мы выделяем в этом мире.
> > интеллект - это умение решать задачи.
В этом смысле автоматическое решение задач тоже является интеллектуальной работой. Но такая интеллектуальная работа может быть бессознательной (неосознаваемой). Например, мы иногда пишем автоматически. Мы думаем о содержании письма, а не о том, как это вывести на бумаге. Но письмо явно относится к интеллектуальным культурным достижениям.
Я применяю слово "сознание", чтобы отделить осознаваемую часть интеллектуальной работы от автоматической, бессознательной. Хотя существует механизм перевода хорошо натренированных действий из осознаваемых в подсознательные, автоматические. Эти действия называются условными рефлексами. Они не всегда могут быть связаны с какими-то измеримыми "аппаратными" изменениями в нервной системе. Дело не в точности измерений, а в том, что некоторые условные (и безусловные рефлексы) могут оставаться или стать зависимыми от "свободы воли", то есть, возможно идеальное влияние, превышающее аппаратное.
> > Потенциальная способность решать задачи - это ещё не интеллект.
> Это машина логического вывода с незаполненной БЗ - экспертная оболочка.
Возможен такой вариант. Но живой мозг не является незаполненной "базой знаний". Субъективный опыт всегда полон и не имеет изъянов. Например, мы не чувствуем себя ущербными от того, что не способны воспринимать большую часть спектра электромагнитных колебаний. "Голова китайца - это чистый лист бумаги" только в том смысле, что китайца можно кое-чему научить, а не потому, что у него в мозгу физически или информационно есть "свободное место" для знаний. Просто в процессе обучения его знания (опыт) организуются в более информационно ёмкую идеальную структуру.
> Может я умею проводить логический вывод, но не могу обучаться.
Такое возможно, если логический вывод выполняется по жёстким правилам вывода. А если правил вывода нет, то достаточно иметь способность к ассоциативному научению, то есть к запоминанию часто повторяющихся фрагментов персонального опыта.
Ассоциативный мотор
1999-09-14 19:23 Конференция "Механизмы сознания"
Есть такое понятие "ассоциативный мозг". Это нечто вроде искусственного мозга особой конструкции. Чтобы не привязываться к конкретному органу рассмотрим более общее устройство "ассоциативный мотор", которым снабжено искусственное существо - робот.
Я хочу показать, что "хороший" ассоциативный мотор может служить средством накопления и согласования знаний о внешнем мире, не имея при этом особой внутренней структуры, адекватной этому миру.
Можно считать установленным, что мышление человека и животных (в ещё большей степени), ассоциативно. Это значит, что каждый имеющийся в данную секунду в сознании образ чем-то похож на другие образы, которые были в сознании за секунду до этого и которые возникнут через секунду.
Почему ассоциативность свойственна животным "в ещё большей степени", чем людям? Потому что люди могут обдумывать такие информационно сжатые образы (понятия, теории, формулировки), которые благодаря своей символьной природе сами содержат нужные ассоциативные связи. И от человека требуется только правильно использовать эти ёмкие образы, не отслеживая всё переносимое ими содержание.
Если при размышлении мы используем формальные правила обращения с определённым видом образов, то ассоциативная связь между последовательно сменяющимися образами хорошо осознаваема. Произвольное, "неуправляемое" размышление, например, сон, тоже состоит в смене одних образов другими похожими образами, без особой заботы о том, чтобы установить, чем же они похожи.
Итак мы обеспечили робота специальным устройством, которое позволяет ему быстро находить правильные ассоциации - образы, слова, действия похожие на то, что "должно быть" в данной узнаваемой ситуации. "Должно быть" просто обозначает то, что чаще всего повторяется в данной ситуации.
Вы говорите ему "Привет!" и он отвечает "Привет!" так как он 100 раз слышал такую последовательность слов при обращении людей друг к другу.
Вы говорите "Чему равно число Пи?" и он отвечает "три четырнадцать" хотя мы и не знаем, понимает ли он, что означают эти слова?
В этих двух примерах робот нашёл правильные ассоциации. Но допустим, вы говорите "Привет!" а робот отвечает "Что значит Привет?"
Это правильно сформулированный вопрос, но неправильный ответ. Робот не знает, почему этот ответ неправильный, но не может ответить правильно, если никогда не слышал слова "Привет". Мы судим о правильности ассоциации по своему опыту, и совсем не обязательно, чтобы эта "правильность" была логически обоснована. Слова "Что значит Привет?" выглядят гораздо разумнее, чем простое повторение слова "Привет", если их произносит робот, но они нас не устроят, если перед нами будет человек.
И вот наш неопытный робот выпущен для накопления опыта в человеческое общество.
При "правильном" поведении он будет наблюдать у людей и запоминать более-менее одинаковые, культурно обоснованные реакции. Поэтому в его ассоциативной памяти будет накапливаться большое количество правильных в чём-то похожих друг на друга шаблонов поведения.
А при различных (случайных) "неправильных" поступках люди будут реагировать на его ошибки по разному. И поэтому одинаковых шаблонов поведения не будет. Обратите внимание на такой момент. Неправильное поведение случайно, нешаблонно, так как неопытный робот не имеет в памяти устойчивых шаблонов неправильного поведения.
Память ассоциативного мотора устроена так, что если поведение сопровождается поощрением, то это улучшает запоминание такого поведения. Поведение, которое не привело к поощрению, легче забывается. Благодаря этому накопление повторяющихся правильных шаблонов происходит эффективнее.
Не трудно себе представить, что такой робот со временем будет вести себя всё правильнее и правильнее с точки зрения человека.
Вы ему скажете "Будь готов!" и он ответит "Всегда готов!" Напрашивается тема "зомби".
Очень важно, что устройство описанного здесь "ассоциативного мотора" не обсуждалось. Оно и не имеет большого значения, лишь бы этот мотор выполнял указанную функцию: накапливал и быстро находил образцы часто повторяющегося поведения в данных (узнаваемых) обстоятельствах. Здесь нужно бы обсудить тему "узнавание".
Подробности устройства мотора, его элементная база, физические принципы, дискретное или аналоговое представление данных (если оно используется) не влияют на способность робота выработать адекватное поведение в (любом) окружающем мире.