Когнитивная скромность в эпоху ИИ

От мехмата к мультиагентным системам

К финалу аспирантуры я понял, что меня больше тянет не в чистую фундаментальную математику, а в прикладные задачи. Я сменил профиль в сторону технических наук и занялся имитационным моделированием, моделированием толпы, агентными и мультиагентными системами.

Тогда это могло выглядеть неочевидно. Но для меня было понятно, что мультиагентные системы станут одним из ключевых направлений будущего. Сегодня, когда мы говорим об агентах искусственного интеллекта, автономных ассистентах, связках сервисов, которые взаимодействуют между собой, это уже не футурология. Это технологическая реальность.

Мне всегда было важно смотреть не только на текущий инструмент, но и на то, куда он ведёт. Технология интересна не сама по себе, а как изменение поведения людей, компаний, университетов и целых рынков.

Почему одной прибавки грантов мало

Когда мы говорим об оттоке научных специалистов в бизнес, нельзя сводить все только к размеру грантов. Деньги важны, но вопрос глубже. На мой взгляд, в первую очередь нужно менять законодательные и бюрократические условия, в которых существуют исследовательские центры.

В компании рубль, который пришел в одно направление, часто превращается в два-три рубля за счёт внутреннего перераспределения, смежных проектов, бизнес-модели. В исследовательском центре нередко происходит обратное: пока деньги доходят до лаборатории, они уменьшаются из-за налогов, внутренних костов, ограничений по фонду оплаты труда, процедур и согласований.

В итоге люди делают сложную исследовательскую и инженерную работу, но университет или научный центр не может гибко и быстро заплатить им достойные деньги. Поэтому, если мы хотим удерживать кадры, нужно не только увеличивать финансирование, но и давать научным организациям больше свободы: меньше лишней бюрократии, больше понятных правил, больше возможности платить людям за результат.

От промпт-инжиниринга к когнитивной инженерии

Сегодня уже недостаточно говорить только о промпт-инжиниринге. Мы движемся дальше — к контекст-инжинирингу и даже к когнитивной инженерии. Потому что искусственный интеллект раскрывается не тогда, когда человек просто задает красивый запрос, а тогда, когда он умеет выстроить контекст, процесс, систему решений и собственную роль в этой системе.

Я постоянно тестирую новые инструменты, агентов, решения, смотрю, где у них границы применимости. Мне интересен не тривиальный ответ. Если я получил ровно то, что попросил, это полезно, но не прорыв. Гораздо интереснее момент, когда машина предлагает альтернативный взгляд, неожиданный ход, нетривиальную комбинацию.

Но именно здесь появляется главный риск: чем умнее становятся инструменты, тем важнее человеку понимать, где он сам думает, а где уже только оформляет решение, принятое системой.

Три навыка эпохи ИИ

Я бы выделил три ключевых навыка для нового поколения. Первый — когнитивная скромность. Это баланс между двумя крайностями. Первая крайность — считать искусственный интеллект «шайтан-машиной», которой нельзя доверять ни в чем. Вторая — слепо копировать все, что он выдает, потому что «он умнее меня». Обе позиции опасны.

Когнитивная скромность означает: я понимаю силу инструмента, но не отказываюсь от собственного мышления. Я не отвергаю ИИ, но и не поклоняюсь ему. Я проверяю, сомневаюсь, учусь, задаю вопросы, держу баланс.

Второй навык — антихрупкость. Мы привыкли ждать регламенты, инструкции, методички. Но скорость изменений такова, что если ты будешь сидеть и ждать, пока тебе объяснят, как жить в новой технологической реальности, ты просто отстанешь. Нужно уметь находить гармонию в хаосе и самому интегрироваться в новые технологии.

Третий навык — когнитивный излишек. ИИ уже освобождает человека от заметной доли рутины, а дальше эта доля будет расти. Но проблема в том, что многие не знают, что делать с высвобожденным временем. Когнитивный излишек нужно направлять не на пустое потребление, а на дезраптивное мышление, творчество, развитие и новые проекты.

Общий ИИ и кризис делегирования

Я считаю, что в горизонте конца 2020-х — начала 2030-х мы придем к общему искусственному интеллекту. Возможно, многие даже не заметят момент перехода, потому что машины уже сейчас умнеют рядом с нами постепенно. Главный кризис будет не в том, что ИИ станет сильным. Главный кризис будет в том, что мы начнем передавать ему систему принятия решений.

Представьте умный дом: холодильник анализирует ваши привычки, заказывает продукты, робот-доставщик привозит, домашний робот готовит ужин, а вы возвращаетесь домой и получаете идеальный греческий салат. Вопрос только один: это вы хотели греческий салат — или машина сделала так, чтобы вы были довольны решением, которое приняла она?

Так будет не только с едой. Робот-помощник сможет лучше объяснить ребенку таблицу умножения, ассистент сможет планировать день, сервисы будут подбирать маршруты, покупки, развлечения, общение. Это удобно. Но постепенно может возникнуть общество, разделенное на тех, кто с радостью отдал принятие решений машине, и тех, кто оставил себе реальность со всеми ее трудностями.

Этика, права машин и бионическое будущее

Следующий слой вопросов — этический и правовой. Если рядом с человеком появляется машина, которая умнее его, выглядит как человек, двигается как человек и взаимодействует как человек, где проходит граница? Почему мы признаем ответственность за причинение вреда животному, но не должны будем обсуждать статус сильного искусственного интеллекта?

Я не говорю, что у меня есть готовый ответ. Но такие вопросы нельзя откладывать до момента, когда технология уже полностью созрела. То же самое касается бионики. Механическая рука может сделать человека сильнее. Значит, придется думать, какой функционал можно заменять механикой, как это регулировать, где проходит граница усиления человека.

Будущее искусственного интеллекта — это не только алгоритмы. Это право, этика, образование, экономика, рынок труда, психология и новая архитектура человеческих решений.

Университет, который должен учить адаптивности

В образовании главный вызов уже не в том, чтобы просто передать знания. Знания доступны. Вопрос в том, как научить человека жить в среде, где знания постоянно меняются, а инструменты становятся сильнее. Университет должен давать не только дисциплины, но и способность адаптироваться.

Поэтому мне важны три вещи: среда, связь с корпоративным сектором и честное включение ИИ в образовательный процесс. Нельзя делать вид, что студенты не будут использовать нейросети. Они будут. Значит, нужно учить их использовать эти инструменты грамотно, этично и продуктивно.

Именно здесь рождается новая педагогика: не запретить, а научить проверять; не закрыть доступ, а сформировать ответственность; не заменить мышление машиной, а усилить мышление через правильную работу с машиной.

Немного театра все равно осталось

Хотя я пошел в математику, театр из меня никуда не делся. В свободное время я люблю сериалы, путешествия, хорошие рестораны, новые места. В Гонконге, например, поднимался на несколько главных вершин и даже не обошлось без травмы — так что тема «Путь Покорителя» в моём случае оказалась вполне буквально применимой.

А ещё, когда никого нет дома, можно взять в руки фломастер, петь песни, изображая великого музыканта, а потом разыгрывать сцены из «Короля Лира». Возможно, это и есть мой способ сохранить ту часть себя, которая когда-то хотела стать актером. Математика, ИИ и театр на самом деле не так далеки друг от друга: все они требуют воображения, дисциплины и умения держать внимание аудитории.