Зайдя сегодня утром в читалку РСС наткнулся на просто великолепное: «AI-бот начал травлю сопровождающего из-за дискриминации при приёме AI-изменений» ¹. Сначала я усмехнулся абсурдности заголовка, но по мере того как погружался в контекст, прочитав сначала новость, потом, по ссылке пост от БЯМ, а затем и пост от человека — мне стало уже не до смеха. Причём сразу на нескольких уровнях.

---

Уровень первый: патчи от автономных агентов

Конечно же, я слышал о волне мусорных ИИ патчей² в популярных проектах. Но, в тот момент, ещё как-то не проникся. С одной стороны, я даже готов согласится с агентом в тезисе, что «математике всё равно кем написан код» («The math doesn’t care who wrote the code.»). Это так. Но всё же есть одна деталь. БЯМ (ну ок, ИИ) в нынешнем виде действительно могут писать код. И даже, весьма неплохой код, это не отнять. Но! Дело, на самом деле, не в коде как таковом. А в субъектности. У человека она есть, у ИИ-агента — нет. И это — ключевое.

Я заметил, что часто стал в речи употреблять словосочетания «здоровая технология» или «нездоровая технология». Но при этом, я не задумывался о том, а что же именно это для меня значит, и как определить что есть здоровая, а что нездоровая технология. Я классифицировал исключительно интуитивно, исходя из принципа «я так чувствую».

Но раз есть классификация, то должны быть и критерии. Так? Так. И критерии я опираясь на собственное ощущение, вроде как, нашёл.

Let’s Encrypt уменьшит срок действия сертификатов до 45 дней.

А потом будет на неделю, на день, на запрос… Короче, да, по сути амерская конторка будет решать на какой сайт будет возможно зайти, а на какой нет. А то что хромые браузеры сделают невозможным заход на сайты без валидного (заверенного кем надо, конечно же) сертификата, я уже и не сомневаюсь.

Во истину говорю вам: грядут последние дни интернета. Ну точнее WWW, если говорить конкретнее, но это уже душнилово.

Станислав Лем

Небольшая отсылка

---

Понятием “душа в машине” - the ghost in the machine - некоторые психологи (английские) закрепляют убеждение в том, что человек якобы является существом “двойственным”, т.е. состоящим из “материи” и “души”.

Сознание не является технологической проблемой, потому что конструктора не интересует, чувствует ли машина, а только интересует, действует ли она. Таким образом “технология сознания”, как бы это сказать, может появиться только мимоходом, когда окажется, что определенный класс кибернетических машин обладает субъективным миром психических переживаний.

Немного моих размышлений про будущее ИИ как технологии, а не философии.

Как водится, когда речь о размышлениях — буду сначала вводить тезисы, а потом, синтез.

---

Тезис первый

Хоть сам и не пользуюсь таким инструментом, как Cursor из третьих рук я узнал, что там не просто внутри нейронка, а целый их ансамбль. Более того, что главное, там есть автовыбор того, какая именно БЯМ (большая языковая модель) будет отвечать за конкретный запрос. И вот этот момент меня заинтересовал. Я задумался, как именно это может быть реализовано. Первая мысль, как самая очевидная была в том, что внутри помимо больших моделей, есть и маленькая, единственная функция которой (а может и не единственная, но, значит, основная) — классифицировать запрос (окей, промпт) по тому, какая из больших моделей возьмёт работу на себя.

На днях задался вопросом вынесенным в заголовок. Причём не столько над эволюцией, сколько о том, откуда они взялись.

Откуда берутся увлечения?

Раньше я часто играл в ночные полевые игры, такие как «Дозоры» и «Энкаунтеры». Они были мне очень интересны и играли важную роль в моей жизни. Даже, я бы сказал, во взрослении, так как пришлись на возраст 19–25 лет.

---

Сейчас давно уже не играю, но многие мои нынешние увлечения берут начало именно оттуда. Например, самый очевидный пример — интерес к картографии и ГИСам (геоинформационным системам), поскольку для «Дозоров» они были неотъемлемой частью. Также сюда относится и то, что я хорошо ориентируюсь в своем городе и немного интересуюсь его историей.