Могут ли пчёлы и ChatGPT обладать сознанием? Учёные всерьёз задаются этим вопросом
Исследователи предполагают, что ключ к выявлению сознания у животных и ИИ заключается в понимании того, как работают их системы обработки информации.
На первый взгляд, пчела, собирающая нектар в саду, и компьютер, работающий под управлением ChatGPT, могут показаться совершенно разными. Тем не менее, ученые все чаще изучают возможность того, что как биологические организмы, так и развитые искусственные системы могут обладать некоторой формой сознания.
Одно лишь поведение может ввести в заблуждение
Исследователи изучают сознание различными способами. Распространенной стратегией является наблюдение за поведением и оценка того, как животное или искусственный интеллект (ИИ) реагируют на окружающую среду.
Однако две недавние научные статьи, посвященные изучению сознания у животных и ИИ, предлагают новые способы исследования этого явления. Их подход направлен на то, чтобы избежать как преувеличенных утверждений, так и чрезмерно скептических взглядов, предполагающих, что только люди способны к сознательному опыту.
Расширение круга сознания
Дебаты о сознании давно ведутся в философии и науке.
Одна из причин заключается в том, что сознание несет в себе моральное значение. Если существо обладает сознанием, его переживания могут иметь этическое значение, недоступное бессознательным системам. По мере расширения круга потенциально сознательных организмов, возрастают и этические вопросы, касающиеся обращения с ними. Даже когда полная уверенность невозможна, некоторые исследователи утверждают, что следует проявлять осторожность. Философ Джонатан Берч называет эту идею принципом предосторожности в отношении сознания.
В последнее время наблюдается тенденция к расширению круга потенциально сознательных организмов.
Например, в апреле 2024 года группа из 40 ученых на конференции в Нью-Йорке предложила Нью-Йоркскую декларацию о сознании животных. Впоследствии подписанная более чем 500 учеными и философами, эта декларация утверждает, что сознание реально возможно у всех позвоночных (включая рептилий, амфибий и рыб), а также у многих беспозвоночных, включая головоногих моллюсков (осьминогов и кальмаров), ракообразных (крабов и омаров) и насекомых.
Параллельно с этим невероятный рост числа крупных языковых моделей, таких как ChatGPT, породил серьёзную вероятность того, что машины могут обладать сознанием.
Почему разговора недостаточно
Пять лет назад, казалось бы, непререкаемым критерием наличия сознания было умение вести с ним разговор. Философ Сьюзен Шнайдер предположила, что если бы у нас был ИИ, убедительно размышляющий о метафизике сознания, он вполне мог бы обладать сознанием.
По этим меркам сегодня нас окружали бы сознательные машины. Многие зашли так далеко, что применили здесь и принцип предосторожности: бурно развивающаяся область изучения благополучия ИИ посвящена выяснению того, должны ли мы и когда нам следует заботиться о машинах.
Однако все эти аргументы во многом зависят от поверхностного поведения. Но это поведение может быть обманчивым. Для сознания важно не то, что вы делаете, а как вы это делаете.
Изучение внутренней структуры ИИ
В новой статье в журнале Trends in Cognitive Sciences, соавтором которой является один из нас (Колин Кляйн), опираясь на предыдущие работы, рассматривается скорее аппаратная часть, чем поведение ИИ.
В ней также используется традиция когнитивной науки для определения правдоподобного списка индикаторов сознания, основанного на структуре обработки информации. Это означает, что можно составить полезный список индикаторов сознания, не соглашаясь с тем, какая из существующих когнитивных теорий сознания является правильной.
Некоторые индикаторы (например, необходимость разрешения компромиссов между конкурирующими целями контекстуально приемлемыми способами) являются общими для многих теорий. Большинство других индикаторов (например, наличие информационной обратной связи) требуются только одной теорией, но являются показательными в других.
Важно отметить, что все полезные индикаторы носят структурный характер. Все они связаны с тем, как мозг и компьютеры обрабатывают и комбинируют информацию.
Вердикт? Ни одна из существующих систем ИИ (включая ChatGPT) не обладает сознанием. В больших языковых моделях проявление сознания достигается не таким способом, который был бы достаточно похож на наш, чтобы оправдать приписывание им сознательных состояний.
В то же время, нет никаких препятствий для того, чтобы системы ИИ — возможно, с архитектурой, сильно отличающейся от современных систем — стали сознательными.
Вывод? ИИ может вести себя так, как будто он сознателен, не будучи таковым на самом деле.
