📘 Causal AI Reading Group — главы 3 и 4.1

📘 Causal AI Reading Group — главы 3 и 4.1 #book #literature #reading_group #causality #causalAI

Продвинулись дальше и разобрали главы 3 и 4.1.

Если во введении авторы в основном задают рамку и мотивацию, то здесь начинается попытка формализовать «операциональный язык» causal AI — как именно описывать знания, вмешательства и рассуждения так, чтобы ими могли пользоваться ML-системы.

Несколько новых наблюдений именно по этим главам.

Глава 3 показалась довольно тяжёлой по стилю: много общей нотации, абстрактных схем и мета-уровневых определений (что считать знанием, политикой, средой, интервенцией и т.д.). Иногда создаётся ощущение, что формализация опережает интуицию — термины вводятся раньше, чем становится ясно, какие практические задачи они упрощают. В итоге текст выглядит скорее как конструктор понятий, чем как инструментальный туториал.

При этом интересно, что causal рассуждения подаются не только как способ оценки эффектов, а как язык для описания поведения агентов и их взаимодействия со средой — то есть ближе к reinforcement learning и decision-making, чем к классическому «effect of treatment». Это немного смещает акцент с чистой идентификации на программирование причинных политик.

Глава 4.1 читается заметно легче и приземлённее. Здесь меньше философии и больше знакомых технических объектов: графы, adjustment, идентифицируемость, условия применимости. Появляется ощущение «почвы под ногами» — понятнее, какие именно вопросы можно формально задать и какие ответы реально вычисляются.

По ощущениям, именно с этого места книга начинает работать как практический текст, а не как манифест.

Отдельно отметили, что многие конструкции подаются сверху вниз — сначала единая абстрактная схема, потом частные случаи. Для читателя из ML это может быть менее естественно, чем наоборот (от задач к теории), но зато хорошо видно, как авторы пытаются собрать всё в единую систему обозначений.

Дальше планируем подробнее разбирать adjustment/frontdoor/backdoor и смотреть, где предложенный язык действительно даёт выигрыш по сравнению с привычным causal toolkit.

Если хотите подключиться к обсуждениям — пишите на почту, буду делиться заметками по ходу чтения.