Как показывают исследования последних лет, так называемые большие языковые модели испытывают определенные затруднения с оценкой и осуществлением рассуждений. В статье предпринимается попытка выявить причины этих затруднений и предложить возможные пути их преодоления. Первый раздел представляет собой своеобразное введение в проблематику, в нем анализируются примеры некорректной оценки умозаключений языковыми моделями. В следующем разделе устанавливается связь между нейрокогнитивными механизмами пространственной навигации у животных, концептуальной навигацией человека и идеями телесной воплощенности сознания. Отмечается влияние этих идей на развитие проекта искусственного интеллекта. Последний раздел подводит итоги предпринятого исследования, в нем формулируется предположение автора о роли перцептивных данных в процессе обработки информации и основанных на нем интеллектуальных процедур и рассуждений в том числе. Наличие сенсорного входа в конечном итоге оказывается необходимым условием для осуществления рассуждений, и именно его отсутствие у больших лингвистических моделей приводит к отмеченным затруднениям и проблемам.
Идентификаторы и классификаторы
В последние годы, начиная примерно с 2018 г., все большее распространение получают так называемые «большие языковые модели» (далее БЯМ1, от английского Large Language Models, LLM), построенные на основе генеративного ИИ, такие как, например, BERT, разработанный корпорацией GOOGLE, и GPT, созданный Open AI. Предполагается, что БЯМ на основе глубокого обучения на больших массивах лингвистических данных должны быть способны обрабатывать, понимать и создавать (генерировать) тексты, похожие на тексты, написанные человеком. Сегодня всем хорошо известно множество примеров, в том числе и анекдотических, учебных и научных текстов, написанных, в первую очередь, GPT, которые с успехом, вплоть до неразличимости, подменяют «человеческие» тексты. Однако, как показали исследования работы БЯМ буквально в последний год, они испытывают серьезные затруднения с пониманием и оценкой рассуждений. Это особенно странно, если учесть, что изначальным декларируемым предназначением этих систем обработки информации является способность понимать человеческий текст.
Список литературы
- Рассел С., Норвиг П. Искусственный интеллект: современный подход: В 4 т.
СПб.: Диалектика, 2021. 21 с. - Бочаров В.А., Маркин В.И. Введение в логику. М.: ИД «ФОРУМ»; ИНФРА-М,
- 560 с.
- Trott S. et al. Do large language models know what humans know? // Cognitive
Science. 2023. Vol. 47, iss. 7. https://doi.org/10.48550/arXiv.2209.01515 - Espejel J.L. et al. GPT-3.5, GPT-4, or BARD? Evaluating LLMs reasoning ability
in zero-shot learning and performance boosting through prompts // Natural Language
Processing Journal. 2023. Vol. 5. https://doi.org/10.1016/j.nlp.2023.1000032 - Turpin M. et al. Language models don’t always say what they think: Unfaithful explanations in chain-of-thought prompting. 2023. https://doi.org/10.48550/
arXiv.2305.04388 - Liu H. et al. Evaluating the logical reasoning ability of ChatGPT and GPT-4. 2023.
https://doi.org/10.48550/arXiv.2304.03439 - Huang J., Chang K.C.C. Towards reasoning in large language models: A survey.
- https://doi.org/10.48550/arXiv.2212.10403
- Xu F. et al. Are large language models really good logical reasoners? A comprehensive evaluation from deductive, inductive and abductive views. 2023. https://doi.
org/10.48550/arXiv.2306.09841 - Valmeekam K. et al. Large language models still can’t plan (A benchmark for
LLMs on planning and reasoning about change). 2022. https://doi.org/10.48550/
arXiv.2206.10498 - Arkoudas K. GPT-4 can’t reason. 2023. https://doi.org/10.48550/arXiv.2308.03762
- O’Keefe J., Dostrovsky J. Th e hippocampus as a spatial map: preliminary evidence
from unit activity in the freely-moving rat // Brain research. 1971. Vol. 34, N 1. P. 171–175. - Haft ing T. et al. Microstructure of a spatial map in the entorhinal cortex // Nature.
- 436.7052. P. 801–806.
- Tolman E.C. Cognitive maps in rats and men // Psychological Review. 1948.
Vol. 55, N 4. P. 189–208. - Mormann F. et al. A category-specifi c response to animals in the right human
amygdale // Nature Neuroscience. 2011. Vol. 14, N 10. P. 1247–1249. - Marozzi E., Jeff ery K.J. Place, space and memory cells // Current Biology. 2012.
Vol. 22, N 22. P. R939–R942. - Bellmund J.L.S. et al. Navigating cognition: Spatial codes for human thinking // Science. 2018. doi: 10.1126/science.aat6766
- Viganò S. et al. Mental search of concepts is supported by egocentric vector representations and restructured grid maps. bioRxiv. 2023. N 1. doi: https://doi.
org/10.1101/2023.01.19.524704 - Kriegeskorte N., Kievit R.A. Representational geometry: integrating cognition,
computation, and the brain // Trends in cognitive sciences. 2013. Vol. 17, N 8. P. 401–412. - Kazanina N., Poeppel D. Th e neural ingredients for a language of thought are
available // Trends in cognitive sciences. 2023. doi: 10.1016/j.tics.2023.07.012 - Бергсон А. Опыт о непосредственных данных сознания // Бергсон А. Собрание сочинений: В 4 т. СПб.: Изд-во М.И. Семенова, 1913. Т. 2. 224 с.
- Varela F.J., Th ompson E., Rosch E. Th e embodied mind, revised etion: Cognitive
science and human experience. Cambridge, Mass: MIT Press, 2017. 328 p. - Gallagher S. Enactivist interventions: Rethinking the mind. Oxford University
Press, 2017. - Lakoff G., Johnson M. Metaphors we live by. University of Chicago press, 2008.
256 p. - Clark A., Chalmers D. Th e extended mind // Analysis. 1998. Vol. 58, N 1. P. 7–19.
- Barsalou L.W. Grounded cognition // Annual Review of Psychology. 2008.
Vol. 59. P. 617–645. - Schiavio A., Schyff D. van der. 4E music pedagogy and the principles of selforganization // Behavioral Sciences. 2018. Vol. 8, N 8. 72 p.
- Smith L.B. Cognition as a dynamic system: Principles from embodiment // Developmental Review. 2005. Vol. 25. P. 278–298.
- Holland O. Th e future of embodied artifi cial intelligence: Machine consciousness? Embodied Artifi cial Intelligence: International Seminar. Dagstuhl Castle, Germany,
July 7–11, 2003. Revised Papers. Berlin; Heidelberg: Springer Berlin Heidelberg, 2004.
334 p. - Conforth M., Meng Y. Embodied intelligent agents with cognitive conscious and
unconscious reasoning. Proceedings of the International Conference on Brain-Mind. - P. 15–20.
- Hughes J. et al. Embodied artifi cial intelligence: Enabling the next intelligence
revolution // IOP Conference Series: Materials Science and Engineering. IOP Publishing, - Vol. 1261, N 1.
- Zhang Z., Li J. A eeview of artifi cial intelligence in embedded systems // Micromachines. 2023. Vol. 14, iss. 5. 18 p.
- Chalmers D.J. Does thinking require sensory grounding? From the history of
philosophy to artifi cial intelligence. URL: https://philarchive.org/archive/CHADTR - Lanchantin J. et al. A data source for reasoning embodied agents. Proceedings of
the AAAI conference on artifi cial intelligence. 2023. Vol. 37, N 7.
Выпуск
Другие статьи выпуска
Настоящее исследование является социально-философским анализом игровых элементов в образовании. Утверждается, что образование содержит в себе игроизацию в виде дополнительных к основным функциям (трансляция знаний) образования элементов (ритуалы, форма, правила и т.п.). Игра присутствует в образовании в качестве педагогической игры - обучающей, развивающей и коммуникативной и имеет множество форм. Основная характеристика педагогической игры - наличие цели, не связанной с игрой. Она иллюстрируется примерами авторской методики философских игр для детей и взрослых.
В статье представлен обзор перспектив применения церебральных органоидов и этический анализ этой технологии. Церебральные органоиды - выращенные из плюрипотентных стволовых клеток миниатюрные объемные модели структур мозга. Мозговые органоиды выращиваются в целях теоретических и прикладных исследований нейрогенеза в норме и в патологии. Технология позволяет исследовать генезис психоневрологических заболеваний, выявлять влияние препаратов и вирусов на мозг, тестировать различные виды терапии, обходя этические ограничения исследований на человеке и животных. Тем не менее манипуляции с нейронным субстратом и нарастающая антропоморфизация мини-брейнов вызывают многочисленные этические сомнения. В статье рассматривается вопрос об онтологическом статусе органоидов мозга, а также животных, в мозг которых встроены органоиды человека. Проблема поиска критериев сознания органоидов связана с прикладными задачами разработки правил для экспериментирования с мини-брейнами и их медицинского использования, в том числе уточнения статуса добровольного информированного согласия как условия экспериментирования. Делается вывод о необходимости установления междисциплинарного диалога в целях разработки концептуальных оснований, принципов и прикладных правил для манипуляций с новым объектом исследования.
В статье рассматривается позиция австралийского философа Дэвида Армстронга в дискуссии о сознании. Излагается общая суть его версии теории тождества сознания и тела, характеризующейся как теория каузальной роли. Подчеркиваются важные отличительные черты предлагаемого Армстронгом отождествления: тождество в данном случае следует понимать как контингентное тождество токенов. Приводится армстронговское понимание тезиса физикализма. Демонстрируется внутренняя угроза, которую создает теория сознания Армстронга для общей физикалистской направленности его метафизического проекта. Предлагается способ решения этой проблемы при помощи отказа от контингентного тождества в пользу логической супервентности. Приводятся аргументы Армстронга в пользу отождествления квалиа, понимаемых как вторичные качества, с некоторыми свойствами физических объектов. Так как сам Армстронг не считает эти аргументы решающими, предлагается иллюзионистское прочтение его теории сознания, позволяющее одновременно сохранить логическую супервентность сознания на физическом и дать объяснение квалиа.
Статья посвящена реконструкции теории сознания Роберта Нозика. Описывается функция сознания в его изложении. Анализируется, как сознание связано с данными. Реконструируется предложенная им теория феноменального сознания. Очерчивается круг уязвимых мест теории Нозика, а также определяются ее проблемные точки.
Статья содержит концептуальный анализ теории решения изобретательских задач (ТРИЗ) авторства Г.С. Альтшуллера. ТРИЗ рассматривается как проявление характерного для многих областей науки и культуры времен Холодной войны организационного принципа алгоритмической рациональности. Автор приходит к выводу, что в ТРИЗ этот принцип проявляется в виде организующей метафоры «управляемой эволюции». Вначале проводится анализ ТРИЗ как теории технического прогресса с привлечением классификационного аппарата, предложенного Юном Эльстером, затем - сравнительный анализ ТРИЗ и французской философии техники 1932-1958 гг., «механологии». Сходством обладают общефилософские основания теорий, тогда как различия коррелируют с проявлениями алгоритмической рациональности в ТРИЗ. Тип алгоритмической рациональности соотносится с более общим представлением о социально-экономических отношениях в обществе, что позволяет говорить о различии советского и американского подходов к рассмотрению картины мира, а также сделать предположение о существовании отдельного типа теории технического прогресса.
Статья посвящена сравнительному анализу рецептивно-предикативных моделей личности двух философов - о. Сергия Булгакова и японского философа Китаро Нисиды. Автор приходит к выводу, что, несмотря на разные религиозно-культурные установки, на которых основаны две модели, оба философа разделяют сходное до определенной степени базовое понимание рецептивно-предикативного характера человеческого «я». Однако, как доказывает автор, они в конечном итоге развивают различные концепции личностной коммуникации «я» и «Абсолютного».
Издательство
- Издательство
- МГУ
- Регион
- Россия, Москва
- Почтовый адрес
- оссийская Федерация, 119991, Москва, Ленинские горы, д. 1
- Юр. адрес
- оссийская Федерация, 119991, Москва, Ленинские горы, д. 1
- ФИО
- Садовничий Виктор Антонович (РЕКТОР)
- E-mail адрес
- info@rector.msu.ru
- Контактный телефон
- +7 (495) 9391000
- Сайт
- https://msu.ru/