Ученые встревожены слишком быстрым развитием ИИ

Сознание - это состояние, при котором организм осознает себя и окружающий мир. Несмотря на десятилетия исследований, наука до сих пор не может объяснить, как субъективный опыт возникает из биологических процессов.

"Сознание - больше не философская категория. Это вопрос, напрямую влияющий на медицину, право, этику и наше понимание самого человечесского существования", - заявил профессор Аксель Клирманс из Свободного университета Брюсселя, один из авторов работы.

Ученые рассматривают разные гипотезы: от теории глобального рабочего пространства, предполагающей, что осознание возникает при объединении информации из разных областей мозга, до интегрированной теории информации, согласно которой система становится сознательной, если ее части тесно связаны и взаимодействуют.

В новой работе исследователи проанализировали современное состояние науки о сознании и возможные последствия, если человечеству удастся не только понять, но и создать сознание - например, в искусственном интеллекте или лабораторных мозговых органоидах.

По мнению авторов, необходимы надежные тесты на осознанность, которые позволят определить, обладает ли система - будь то человек, животное, эмбрион, органоид или ИИ - признаками сознания. Это поможет диагностировать осознанность у пациентов с тяжелыми повреждениями мозга или деменцией, а также понять, когда именно она возникает у плода или у животных.

Однако такие открытия повлекут и глубокие этические и правовые последствия: если система признана сознательной, общество должно будет ответить на вопрос - как к ней относиться.

"Прогресс в изучении сознания изменит наше представление о себе, об искусственном интеллекте и о месте человека в природе", - отметил профессор Анил Сет из Университета Сассекса.

Авторы предупреждают: технологии, связанные с ИИ и мозговыми интерфейсами, развиваются быстрее, чем наука о сознании, - и это может привести к серьезным этическим последствиям.

• 30 окт., 16:10