Люди – существа разумные. Люди пытаются достичь наибольшего результата наименьшими усилиями и с помощью технологий автоматизировали множество действий, которые раньше выполнялись людьми или не выполнялись вообще – с тех пор эти действия выполняются механизмами или электроникой. Электроника с определёнными программами всё лучше выполняет некоторые действия, для выполнения которых людям требуется умение мыслить. В этой статье попытаемся определить, что такое искусственный интеллект и к чему может привести его использование.
Человек имеет две жизни – внешнюю и внутреннюю. Иногда внешняя смущает внутреннюю. Большая часть новостей, которые хотят знать люди – о войне. Но новости, упоминающие одно слово, также привлекли немало внимания. Этот обзор – о последних, но важно сказать, что тема находится на стыке многих наук, весьма сложна и обзор будет весьма поверхностный.
На графике изображено относительное количество запросов в поиске Google на английском со словами
“AI” (сокр. от англ. “Artificial Intelligence”, по-русски – “Искусственный интеллект” ) и “War” (“Война”).
График построен приблизительно 2023-08-10 в 21:00. Источник – Google Trends (trends.google.com).
Что такое искусственный интеллект? (ИИ)
Определений искусственного интеллекта много. Два из них:
1) программа, решающая сложные задачи на человеческом уровне или лучше;
2) область знаний о таких программах.
Почти всегда ИИ-программа имеет в себе изменяемую часть, которая была изменена (обучена) для лучшего решения задачи.
В наше время ИИ (с разной степенью успеха) переводит тексты с одних языков на другие, переводит аудиозаписи речи в текст, распознаёт на видео/картинках тексты, лица, пишет картины, музыку, текст, программный код, выбирает, какой текст или видео вам показать в вашей социальной сети и делает многие другие вещи.
Обсуждается и понятие общего ИИ, который мог бы решать большинство задач, решаемых человеком,так как существующие ИИ-программы выполняют достаточно узкие наборы задач.
ИИ-программы, которые решают самые сложные задачи, в настоящее время почти без исключения сделаны на основе искусственных нейронных сетей (нейросетей)*.
*Нейросеть – это определённая сложная математическая структура, которая из вводных данных (например, изображения, текста, звука в численном виде) вычисляет численный ответ (например, 0 – «да», 1 – «нет»). Она так названа из-за того, что она «состоит» из множества искусственных нейронов (имеющих обычно простую математическую формулу).
Очень маленькая часть возможной нейронной сети.
Источник — Arockia, Padmavathi “Quality Metrics and Reliability Analysis of Laser Communication System”
Обучение нейросетей
Процесс обучения и работы нейронной сети – это выполнение большого количества вычислений по определённым формулам. Нейросеть для входных данных вычисляет ответ, который сравнивается с желаемым ответом, и числа в нейросети меняются так, чтобы в следующий раз посчитать ответ точнее.
Главная проблема нейронных сетей
Вы думаете, на картинках слева и справа собачка? А нейросеть выдаёт ответ, что справа – страус. Нейросеть «обманули», добавив к начальному изображению особо сделанный шум – он изображён в центре, усиленный во много раз (иначе шум был бы неразличим для глаза).
Нейронные сети «заучивают» численные взаимосвязи в данных, на которых они обучались. Но они «не понимают» смысла этих данных. Иногда выученные взаимосвязи действительно отражают смысл, иногда – нет.
Двоечник: «Пусть ChatGPT решит задачу за меня! Разве что-то может пойти не так?»
Некоторые вехи в развитии ИИ в последние десятилетия
– 1970 г. – Сформулирован алгоритм обратного распространения ошибки, позволяющий при наличии математически-числового описания правильности решения эффективно менять числа в изменяемой части ИИ-программы на основе нейронной сети.
– 2012 г. – Программа на основе нейронных сетей с отрывом победила в соревновании программ по распознаванию изображений, достигнув близкой к человеческой точности.
– 2016 г. – Программа на основе нейронных сетей AlphaGo (компании DeepMind) обыграла в матче чемпиона мира в игре “го”. До этого множество экспертов в игре “го” и в области ИИ считали такую возможность делом далекого будущего. Через год новая версия (AlphaGo Zero) достигла уровня игры лучшего, чем предыдушая, только играя сама с собой.
– 2020 г. – Программа AlphaFold 2 (DeepMind) вычислила структуру (положение частей молекулы в пространстве) белков из химической формулы с недостижимой ранее точностью. Многими эксперты в области биологии считали это невозможным.
– 2022 г. – Выпуск большой языковой модели GPT-3.5 (компании OpenAI), способной писать достаточно разумный текст на многие темы, и делающей большое число задач по написанию текста на уровне экспертов в соответствующих областях.
Стоит отметить, что большинство этих достижений были бы невозможны без
1) быстрого роста скорости вычислительной электроники, что в свою очередь было бы невозможно без развития в области точных и технических наук и дисциплин (математики, физики, химии, инженерии и т.д.), а также
2) накопления большого количества данных, что в свою очередь было бы невозможно без распространения компьютеров и интернета.
ChatGPT
Это семейство больших языковых моделей, обученных заканчивать текст, если дано его начало. Они обучены на очень большом количестве текстов, таких как данные интернет-страниц, тексты новостей, дискуссии на тематических форумах, Википедия, программный код и многое другое – общий объём неизвестен.
Модель ChatGPT невиданным ранее для программ качеством разговора произвела сенсацию. Многие считают, что эта модель – шаг на пути к созданию общего искусственного интеллекта.
Разные вопросы, ответы и мнения:
1. Может ли искусственный интеллект чувствовать?
Коротко: нет. Так же, как не может чувствовать камень, кристалл, лифт, калькулятор.
Другой вопрос, почему некоторые люди так говорят? Есть разные мотивы, иногда они звучат приблизительно так: «ИИ может писать текст весело или грустно, а ещё – рисовать весёлые и грустные лица!»
Некоторые люди учат своих попугаев говорить: «Помогите! Меня превратили в попугая!» Попугай – способная птица, а сложный ИИ может имитировать многие вещи, которые делает человек – например, выдать грустный текст – но чувств от этого у него не появится.
При анализе мнений автор заметил, что и священники, и самые убеждённые атеисты согласны в одном – относиться к нейросети как к живому существу просто опасно; и те, и другие предлагают ввести законодательные требования маркировать любую информацию, произведённую ИИ. Естественная человеческая способность одушевлять вещи окружающего мира может быть направлена против человека, привести к душевным и духовным болезням.
2. Может ли ИИ иметь сознание?
Все адекватные учёные согласны, что ни один существующий в наше время ИИ сознания не имеет. Но многие из них (материалисты) утверждают, что мозг человека производит вычисления, а сознание появляется в мозге, делающем достаточно много вычислений (вычислительная теория сознания).
Например, Илья Суцкевер (глава разработки ИИ компании OpenAI) говорит: «Все согласны, что игра Го требует рассуждений. AlphaGo без поиска [очень ослабленная версия — прим. автора] играет лучше, чем 99.9% людей. Разве это… не доказывает, что нейронные сети могут рассуждать?» Он же: «…люди имеют сознание. Если верить [выделено автором], что искусственные нейронные сети достаточно похожи на мозг, то как минимум должны существовать искусственные нейронные сети, которые тоже имеют сознание». Демис Хассабис (глава компании DeepMind) вторит ему: «Сознание – это то, как ощущаются вычисления».
Можно поговорить об этом с богословской точки зрения, но интересно, что и у материалистов продолжается дискуссия о легитимности таких утверждений. Сознание имеет способность к саморефлексии (взгляду на себя со стороны). Есть более математический аргумент: о том, что алгоритмическая/вычислительная система не способна выйти за рамки заданной логики, а человеческое понимание – способно (аргумент Пенроуза**-Лукаса, вывод Пенроуза: «Чем бы ни было сознание – оно не может быть вычислимым процессом»). Также данные науки о мозге показывают, что части мозга, в которых происходит наибольшая активность (вычисления, по мнению сторонников вычислительной теории сознания), как раз сознания не имеют.
На это сторонники вычислительной теории обычно отвечают или аргументацией против аргумента Пенроуза-Лукаса, или вопросом: «А что кроме вычислений?» Но первые аргументы имеют свои контраргументы, а последний вопрос вообще является не аргументом, а выражением убеждений.
**Роджер Пенроуз – известный математик, физик, лауреат Нобелевской премии по физике.
3. Как повлияет распространение ИИ на человечество?
Оптимистичная точка зрения
«Вперёд, в золотой век!»
Некоторые представители: Демис Хассабис, Илья Суцкевер, Ян ЛеКун (глава исследований ИИ в корпорации Meta). Предполагается, что с помощью ИИ люди (или сам ИИ) совершат научные и технологические открытия, которые помогут решить такие проблемы как нехватка ресурсов, лечение болезней, экологические проблемы и многое другое, а отрицательные явления будут ничтожны на фоне достижений.
Хочется ответить цитатой: «В фантастических романах главное это было радио. При нём ожидалось счастье человечества. Вот радио есть, а счастья нет». (Илья Ильф)
Сдержанно оптимистичная точка зрения
«Надо постараться, чтобы чего не вышло, но всё будет хорошо».
Некоторые представители: Сэм Альтман (глава OpenAI), Джошуа Бенджио (исследователь ИИ). Предполагается, что использование ИИ даст человечеству и плюсы, и минусы. Минусы достаточно серьёзны: использование ИИ злоумышленниками, электронный концлагерь, замещение людей и кризис на рынке труда, поэтому необходимо прилагать большие усилия (в том числе и основательно регулировать индустрию ИИ), чтобы минусы не перевесили плюсы – но это возможно.
Опасливая точка зрения
«А куда мы, собственно, торопимся? Может притормозим и подумаем?»
Некоторые представители: Джеффри Хинтон (исследователь ИИ), учёные Макс Тегмарк и Ноам Хомский, историк Юваль Харари. Хомский спрашивает: «Почему мы так много исследуем ИИ, но не исследуем сознание?» Тегмарк сатирически формулирует точку зрения №1 (оптимистичную): «Давайте быстрее сделаем людей устаревшими! Разве что-то может пойти не так?»
Паническая
«Мы все умрём!»
Элизер Юдковский*** совершенно уверен, что имеется так много катастрофических вариантов развития с участием общего ИИ, что какой-нибудь из них обязательно произойдёт.
Увы, эту точку зрения разделяют и многие христиане, часто те, которые пытаются предугадать возможный конец света. Хотя сказано, что «о дне же том и часе никто не знает, ни Ангелы небесные, а только Отец Мой один» (Мф. 24:36).
***Элизер Юдковский – активист движения «рационалистов», одна из воинственных ветвей атеизма.
4. Почему нейросети достигают больших результатов?
Ещё в 1948, по свидетельству современников, один из основателей кибернетики Джон Нейман сказал: «Вы утверждаете, что машина чего-то не может делать. Но если вы мне точно объясните, что именно не может делать машина [имеется в виду настолько точно, чтобы можно было составить алгоритм действий – прим. автора], то я всегда смогу сделать машину, которая будет делать именно это!» Для нейронных сетей – если можно описать правильность ответа математически, то часто можно и обучить нейронную сеть давать ответ (с некоторой точностью).
Думаете, нейросеть никогда вас не заменит? Не расслабляйтесь…
Христианское понимание
Христианство немного говорит о природе сознания и полезности разных устройств. Но в Библии, учении святых отцов есть утверждения, которые позволяют отсеять определённые точки зрения. Например, то, что «Бог есть Дух» (Ин. 4:24), а человек создан по образу и подобию Бога (Быт. 1:26), явно указывает, что человек не сводится к материи, и сознание, соответственно, не может быть результатом одной материи.
Новые технологии меняют обстоятельства жизни людей, но не могут решить проблемы человечества, которые в основном кроются в страстях.
Мысли автора
Надо понимать, что любая ИИ-программа – это продолжение знаний, которые были использованы для её обучения (иногда – часть знаний всего человечества), и воли создателя (того, кто задал цели, с которыми обучался ИИ).
Проблема крайне оптимистической и панической точек зрения в том, что нам предлагают решать лишь то, развивать или не развивать ИИ. Хотя ответственность людей, в первую очередь разработчиков, и не в последнюю – пользователей современной информационной среды – самое главное. ИИ, как любая мощная технология, даёт большую власть, но и требует большой ответственности.
Думается, что технологии ИИ сильно повлияют на человечество, как и многие другие технологии в прошлом. Но ни больших, чем обычно, катаклизмов, ни решения главных проблем человечества ждать не стоит.
Разные ссылки
Работа простой нейронной сети онлайн (на англ.) – https://playground.tensorflow.org/
«Искусственный интеллект и его карго-культ» – https://azbyka.ru/otechnik/Sergej_Hudiev/iskusstvennyj-intellekt-i-ego-kargo-kult/
«Может ли антихристом быть искусственный интеллект?» – https://foma.ru/mozhet-li-antihristom-byt-iskusstvennyj-intellekt.html
«Православное богословие личности и проблематика искусственного интеллекта» – https://azbyka.ru/otechnik/Kirill_I_Mefodij_Zinkovskie/pravoslavnoe-bogoslovie-lichnosti-i-problematika-iskusstvennogo-intellekta/