Иметь ввиду
«Всем привет! Вышел из отпуска, почитал бесконечный чат про обсуждение, что такое "смысл" и "понимание", согласен с тем, что для этого важен нормальный последовательный текст, начинающий с простых терминов и заканчивающий сложными. Не претендуя на оригинальность, полноту и академичность, это вполне отражает мое понимание всех этих терминов: версия 1.0))
- Объективные понятия
1.1 Мир (среда)
Неограниченное физическое/виртуальное/информационное пространство, в котором существует агент/агенты.
1.2 Агент
Объект, который осуществляет действия в мире/среде (в том числе перемещается в пространстве, делает какие-то движения, генерирует тексты, создает/изменяет информацию и т.д.)
Агент может быть программным или физическим. Агент может быть алгоритмом или субъектом.
1.3 Сенсоры
Устройства восприятия информации о внешнем мире – камеры, микрофоны, датчики, кнопки и т.д.
1.4 Актуаторы
Устройства через которые агент осуществляет действия во внешнем мире – ноги, руки, колеса, экран, динамик, светодиоды и т.д.
1.5 Алгоритм
Строго определенная (например программистом) последовательность действий, приводящая к некоторому результату.
1.6 Субъект
Самообучающийся автономный агент, который имеет цель/цели и осуществляет целесообразное поведение для достижения этой цели, в том числе оказывая воздействие на внешний мир.
Важно, что субъект должен быть отделим от внешнего мира – например, у него может быть физическое тело или он занимает какую-то область в виртуальном пространстве. Это позволяет субъекту выделять себя в мире и осуществлять цикл действие –> восприятие информации -> оценка соответствия ожиданиям -> корректировка картины мира –> действие, оперируя при этом с миром как с набором внешних факторов.
Мы оцениваем «субъектность» агента по наличию поведения и «понимания» внешних событий (реакции на них, см. ниже). Мы ничего не можем сказать о наличии сознания у субъекта.
- Субъективные понятия
2.1 Картина мира агента
Модель/карта мира, находящаяся внутри агента, служащая для ориентировки в информационном/физическом пространстве и для выработки поведения и действий субъекта.
Примитивная картина мира есть даже у самых простых агентов, например у термостата. Датчик температуры выдает сигнал текущей температуры, которая находится в нужном диапазоне или выше/ниже нужного диапазона. В зависимости от этого термостат включает/выключает нагревательный элемент. Комбинация текущей температуры, нахождения ее в/вне диапазона и состояние включенности нагревателя является «картиной мира» данного агента. Он ничего «не знает» об остальном мире.
Картина мира у самообучающегося агента зависит от его траектории (опыта). Чем больше опыт (пройденная траектория или полученная информация) тем полнее картина.
Примеры реализации – полная система состояний конечного автомата, граф, обученная нейронная сеть, экспертная система
Следствия. У разных субъектов картины мира разные. Одинаковость сенсоров и актуаторов у двух субъектов не обеспечивает одинаковую картину мира. Чем больший одинаковый опыт будет у двух субъектов, тем более похожими будут их картины мира.
2.2 Понятие
Отражение какой либо концепции/объекта/события внешнего мира во внутренней картине мира субъекта.
Фразы из языка:
Мы говорим об одном и том же, только разными словами.
В это понятие также входит…
Объекты/события внешнего мира могут быть очень сложными. Агент воспринимает эти объекты/события посредством своих сенсоров и получает некоторое внутреннее «отображение» этих объектов/событий, из которых строит свою внутреннюю картину мира. Например, робот пылесос сканируя стены и мебель в комнате строит 3D карту пространства вокруг. Вся карта вместе с положением робота на ней и его текущей скоростью является его «картиной мира». Стена или кресло впереди робота будут для него понятием «препятствие», которое, в зависимости от реализации, повлечет за собой понятия « объехать справа» или « объехать слева» или «остановиться и включить сигнал».
Онтология субъекта = сумма всех понятий. Но онтология меньше картины мира.
Примеры реализации – состояние конечного автомата, переменная алгоритма, узел семантического графа, фича нейронной сети, термин из экспертной системы.
Следствия. Понятия у разных субъектов с неизбежностью будут разные, потому что и картины мира у них разные. Чем больший одинаковый опыт будет у двух субъектов, тем более похожими будут их картины мира и тем ближе будут их понятия. Понятие не существует в отрыве от субъекта.
2.3 Понимание
Корректировка своих представлений/понятий/связей и в конечном итоге корректировка своих целей и поведения в соответствии с новой информацией/событиями.
Мысленная сценка. Разгневанная мама в парке отчитывает маленького ребенка за то, что он шлепает по лужам: «Не надо ходить по лужам! Ноги будут мокрые! Если еще раз наступишь в лужу – получишь по попе! Ты меня понимаешь?».
В словах мамы есть информация о том, почему она гневается, указание на то, чего делать не нужно и подкрепление – угроза физического действия, которое ребенку неприятно. Но что будет являться «пониманием» с точки зрения мамы? Если ребенок кивнет головой или скажет «Я понимаю!» - является ли это пониманием? Нет, ведь он дальше может снова пойти в лужу. Реальным пониманием будет изменение поведения ребенка в соответствии с новой информацией. Если он перестанет ходить по лужам, то это означает, что он понял информацию и скорректировал свое поведение так, чтобы избежать негативного подкрепления.
Понимание субъектом некоторой информации можно оценить только в случае, если у субъекта есть цели и он осуществляет некоторое поведение для достижения этих целей.
Например, беспилотная машина едет по дороге и ее цель – за минимальное время проехать из точки А в точку Б по дорогам общего пользования. Допустим, машина оснащена камерой, системой распознавания изображения, управляющим компьютером и т.д. Если такая машина двигается по городу на скорости 60 км/час и, проезжая знак «Ограничение скорости 40 км/час», снижает скорость до 40 км/час, то мы можем утверждать, что машина «понимает знак ограничения скорости». А если, проехав следующий перекресток, машина снова увеличивает скорость до 60 км/час, то мы можем сделать вывод, что машина «понимает правила ограничения скорости на дорогах», а не только конкретный знак. А также промежуточный вывод, что машина понимает, что такое «перекресток» с точки зрения определения его в Правилах Дорожного Движения. При этом мы не можем утверждать, что машина «понимает» все знаки дорожного движения. Но если мы увидим, что она последовательно выполняет некие действия, связанные с разными знаками, то после n-го знака мы можем предположить, что вероятно она «понимает» все знаки дорожного движения.
Таким образом, понимание субъектом какого-то события/объекта/информации можно определить как его внутренняя корректировка своих представлений об окружающем мире и своего поведения для достижения своих целей (а может быть и корректировка самих целей).
В таком определении понимание может быть и у субъекта не обладающего сознанием.
Следствия. При отсутствии возможности целесообразного поведения у субъекта (в том числе, в форме какого-либо выражения его внутреннего состояния) мы не можем ничего утверждать о его понимании. Бессмысленно говорить о «понимании» чего-либо нейронной сетью, можно лишь говорить о «формировании понятий» в ней.
2.4 Смысл
Определяет для данного субъекта возможность прагматически/практически использовать какое-то событие/объект/информацию.
Фразы из языка:
Это действие бессмысленно.
Какой в этом смысл.
Я не вижу смысла идти туда.
Тем самым смысл это попытка применить окружающие события (слова, действия) к собственной цели (рассуждению, действию) и оценка этой применимости. Если событие не применимо, то для нас оно «бессмысленно».
Если картина на стене вызывает во мне какие-то чувства, то «в ней есть смысл, это произведение искусства». Если она не вызывает никаких отголосков, то «она бессмысленна». А пыль на полу для меня не имеет никакого смысла. А вот для робота-пылесоса, все ровно наоборот: картина на стене бессмысленна, а пыль на полу имеет смысл, потому что является внешним фактором, влияющим на его картину мира и корректирующим его поведение.
Мы не ищем смысла в очевидных вещах – например в стенах вокруг. Однако, если меня спросить «в чем смысл этих стен», то секунду подумав я уверенно скажу, что смысл стен – поддерживать крышу на головой и сохранять тепло внутри дома, защищая нас от дождя и ветра.
Такое определение смысла является чисто прагматическим, в нем нет ничего иррационального. Однако, в таком определении смысл появляется у субъекта толькопри наличии какой-либо собственной цели или задачи. Если цели нет, то и критерия смысла также нет.
Следствия. Смысл понятий у разных субъектов с неизбежностью будет разный, потому, что у разных субъектов разные картины мира и разные цели. Смысл не существует в отрыве от субъекта.
2.5 Сознание
Понимание субъектом своего собственного существования в мире и отделенности от этого мира.
В таком определении сознание вероятно существует практически у любого представителя животного царства.
2.6 Осознанность
Сознание + понимание наличия у себя целей и возможности корректировки своего поведения для достижения этих целей.
P.S. Как то так. Для любителей как и я читать в файле - ссылка на pdf в первом комменте.»
Из https://www.facebook.com/groups/agirussia/permalink/3513632208675332/, автор Игорь Пивоваров
Иметь ввиду
«Всем привет! Вышел из отпуска, почитал бесконечный чат про обсуждение, что такое "смысл" и "понимание", согласен с тем, что для этого важен нормальный последовательный текст, начинающий с простых терминов и заканчивающий сложными. Не претендуя на оригинальность, полноту и академичность, это вполне отражает мое понимание всех этих терминов: версия 1.0))
1.1 Мир (среда)
Неограниченное физическое/виртуальное/информационное пространство, в котором существует агент/агенты.
1.2 Агент
Объект, который осуществляет действия в мире/среде (в том числе перемещается в пространстве, делает какие-то движения, генерирует тексты, создает/изменяет информацию и т.д.)
Агент может быть программным или физическим. Агент может быть алгоритмом или субъектом.
1.3 Сенсоры
Устройства восприятия информации о внешнем мире – камеры, микрофоны, датчики, кнопки и т.д.
1.4 Актуаторы
Устройства через которые агент осуществляет действия во внешнем мире – ноги, руки, колеса, экран, динамик, светодиоды и т.д.
1.5 Алгоритм
Строго определенная (например программистом) последовательность действий, приводящая к некоторому результату.
1.6 Субъект
Самообучающийся автономный агент, который имеет цель/цели и осуществляет целесообразное поведение для достижения этой цели, в том числе оказывая воздействие на внешний мир.
Важно, что субъект должен быть отделим от внешнего мира – например, у него может быть физическое тело или он занимает какую-то область в виртуальном пространстве. Это позволяет субъекту выделять себя в мире и осуществлять цикл действие –> восприятие информации -> оценка соответствия ожиданиям -> корректировка картины мира –> действие, оперируя при этом с миром как с набором внешних факторов.
Мы оцениваем «субъектность» агента по наличию поведения и «понимания» внешних событий (реакции на них, см. ниже). Мы ничего не можем сказать о наличии сознания у субъекта.
2.1 Картина мира агента
Модель/карта мира, находящаяся внутри агента, служащая для ориентировки в информационном/физическом пространстве и для выработки поведения и действий субъекта.
Примитивная картина мира есть даже у самых простых агентов, например у термостата. Датчик температуры выдает сигнал текущей температуры, которая находится в нужном диапазоне или выше/ниже нужного диапазона. В зависимости от этого термостат включает/выключает нагревательный элемент. Комбинация текущей температуры, нахождения ее в/вне диапазона и состояние включенности нагревателя является «картиной мира» данного агента. Он ничего «не знает» об остальном мире.
Картина мира у самообучающегося агента зависит от его траектории (опыта). Чем больше опыт (пройденная траектория или полученная информация) тем полнее картина.
Примеры реализации – полная система состояний конечного автомата, граф, обученная нейронная сеть, экспертная система
Следствия. У разных субъектов картины мира разные. Одинаковость сенсоров и актуаторов у двух субъектов не обеспечивает одинаковую картину мира. Чем больший одинаковый опыт будет у двух субъектов, тем более похожими будут их картины мира.
2.2 Понятие
Отражение какой либо концепции/объекта/события внешнего мира во внутренней картине мира субъекта.
Фразы из языка:
Мы говорим об одном и том же, только разными словами.
В это понятие также входит…
Объекты/события внешнего мира могут быть очень сложными. Агент воспринимает эти объекты/события посредством своих сенсоров и получает некоторое внутреннее «отображение» этих объектов/событий, из которых строит свою внутреннюю картину мира. Например, робот пылесос сканируя стены и мебель в комнате строит 3D карту пространства вокруг. Вся карта вместе с положением робота на ней и его текущей скоростью является его «картиной мира». Стена или кресло впереди робота будут для него понятием «препятствие», которое, в зависимости от реализации, повлечет за собой понятия « объехать справа» или « объехать слева» или «остановиться и включить сигнал».
Онтология субъекта = сумма всех понятий. Но онтология меньше картины мира.
Примеры реализации – состояние конечного автомата, переменная алгоритма, узел семантического графа, фича нейронной сети, термин из экспертной системы.
Следствия. Понятия у разных субъектов с неизбежностью будут разные, потому что и картины мира у них разные. Чем больший одинаковый опыт будет у двух субъектов, тем более похожими будут их картины мира и тем ближе будут их понятия. Понятие не существует в отрыве от субъекта.
2.3 Понимание
Корректировка своих представлений/понятий/связей и в конечном итоге корректировка своих целей и поведения в соответствии с новой информацией/событиями.
Мысленная сценка. Разгневанная мама в парке отчитывает маленького ребенка за то, что он шлепает по лужам: «Не надо ходить по лужам! Ноги будут мокрые! Если еще раз наступишь в лужу – получишь по попе! Ты меня понимаешь?».
В словах мамы есть информация о том, почему она гневается, указание на то, чего делать не нужно и подкрепление – угроза физического действия, которое ребенку неприятно. Но что будет являться «пониманием» с точки зрения мамы? Если ребенок кивнет головой или скажет «Я понимаю!» - является ли это пониманием? Нет, ведь он дальше может снова пойти в лужу. Реальным пониманием будет изменение поведения ребенка в соответствии с новой информацией. Если он перестанет ходить по лужам, то это означает, что он понял информацию и скорректировал свое поведение так, чтобы избежать негативного подкрепления.
Понимание субъектом некоторой информации можно оценить только в случае, если у субъекта есть цели и он осуществляет некоторое поведение для достижения этих целей.
Например, беспилотная машина едет по дороге и ее цель – за минимальное время проехать из точки А в точку Б по дорогам общего пользования. Допустим, машина оснащена камерой, системой распознавания изображения, управляющим компьютером и т.д. Если такая машина двигается по городу на скорости 60 км/час и, проезжая знак «Ограничение скорости 40 км/час», снижает скорость до 40 км/час, то мы можем утверждать, что машина «понимает знак ограничения скорости». А если, проехав следующий перекресток, машина снова увеличивает скорость до 60 км/час, то мы можем сделать вывод, что машина «понимает правила ограничения скорости на дорогах», а не только конкретный знак. А также промежуточный вывод, что машина понимает, что такое «перекресток» с точки зрения определения его в Правилах Дорожного Движения. При этом мы не можем утверждать, что машина «понимает» все знаки дорожного движения. Но если мы увидим, что она последовательно выполняет некие действия, связанные с разными знаками, то после n-го знака мы можем предположить, что вероятно она «понимает» все знаки дорожного движения.
Таким образом, понимание субъектом какого-то события/объекта/информации можно определить как его внутренняя корректировка своих представлений об окружающем мире и своего поведения для достижения своих целей (а может быть и корректировка самих целей).
В таком определении понимание может быть и у субъекта не обладающего сознанием.
Следствия. При отсутствии возможности целесообразного поведения у субъекта (в том числе, в форме какого-либо выражения его внутреннего состояния) мы не можем ничего утверждать о его понимании. Бессмысленно говорить о «понимании» чего-либо нейронной сетью, можно лишь говорить о «формировании понятий» в ней.
2.4 Смысл
Определяет для данного субъекта возможность прагматически/практически использовать какое-то событие/объект/информацию.
Фразы из языка:
Это действие бессмысленно.
Какой в этом смысл.
Я не вижу смысла идти туда.
Тем самым смысл это попытка применить окружающие события (слова, действия) к собственной цели (рассуждению, действию) и оценка этой применимости. Если событие не применимо, то для нас оно «бессмысленно».
Если картина на стене вызывает во мне какие-то чувства, то «в ней есть смысл, это произведение искусства». Если она не вызывает никаких отголосков, то «она бессмысленна». А пыль на полу для меня не имеет никакого смысла. А вот для робота-пылесоса, все ровно наоборот: картина на стене бессмысленна, а пыль на полу имеет смысл, потому что является внешним фактором, влияющим на его картину мира и корректирующим его поведение.
Мы не ищем смысла в очевидных вещах – например в стенах вокруг. Однако, если меня спросить «в чем смысл этих стен», то секунду подумав я уверенно скажу, что смысл стен – поддерживать крышу на головой и сохранять тепло внутри дома, защищая нас от дождя и ветра.
Такое определение смысла является чисто прагматическим, в нем нет ничего иррационального. Однако, в таком определении смысл появляется у субъекта толькопри наличии какой-либо собственной цели или задачи. Если цели нет, то и критерия смысла также нет.
Следствия. Смысл понятий у разных субъектов с неизбежностью будет разный, потому, что у разных субъектов разные картины мира и разные цели. Смысл не существует в отрыве от субъекта.
2.5 Сознание
Понимание субъектом своего собственного существования в мире и отделенности от этого мира.
В таком определении сознание вероятно существует практически у любого представителя животного царства.
2.6 Осознанность
Сознание + понимание наличия у себя целей и возможности корректировки своего поведения для достижения этих целей.
P.S. Как то так. Для любителей как и я читать в файле - ссылка на pdf в первом комменте.»
Из https://www.facebook.com/groups/agirussia/permalink/3513632208675332/, автор Игорь Пивоваров