📘 Causal AI Reading Group

📘 Causal AI Reading Group #book #literature #reading_group #causality #causalAI

Вышла новая книга Борембойма — Causal AI. Мы в русскоязычном комьюнити решили организовать ридинг-группу — давно не появлялось ничего, что хотя бы теоретически могло бы дополнить монографию Перла и Глеймура. 🧩 Обсудили первую главу — введение и обзор. Она задаёт амбициозный тон и формулирует мотивацию книги: объединить машинное обучение, большие языковые модели и причинные рассуждения в единую рамку. Мы попытались откалибровать ожидания — вот несколько наблюдений и тем, которые показались важными.

1️⃣ Цитаты и контекст. Основные отсылки — к ближайшему кругу Перла и Борембойма: их ученикам и соавторам. Это делает неплохой обзор на развитие научной школы, но при этом несколько ограничивает спектр взглядов. Поэтому заявленная цель книги как «нового фундамента causal AI» выглядит скорее как сильная авторская позиция, чем как попытка собрать консенсус в области.

2️⃣ Фреймворк и структура. Автор предлагает обобщающую схему, связывающую ML/LLM и причинность, при этом в качестве базы используется Pearl Causal Hierarchy (PCH). Мы отметили, что PCH хорошо подходит для объяснений, но не всегда удобна для feedback loops агентов (особенно в части предположений и расхождений интевенциональных данных с контрфактическими прогнозами) и работы с чем то кроме структурных моделей (см joint causal inference как альтернативу). Показалось интересным, что разделы по discovery и matching идут уже после части о causal AI — хотя по логике, это как раз разделы более аккуратно работающие с получением нового знания.

3️⃣ Потенциально сильные стороны. Несмотря на осторожность в оценках, книга поднимает несколько действительно интересных тем:

• Sigma calculus, который ослабляет ограничения цикличности и рандомизации;
• Fairness и причинность как направление этических и социальных приложений causal AI;
• Работа со смешанными данными в разделе о discovery и смежных методах.

Мы решили двигаться дальше по этим темам и при необходимости останавливаться и искать дополнительную литературу для если изложение покажется неполным.

💬 Если интересно — ещё не поздно присоединиться. Будем публиковать краткие впечатления и заметки по мере чтения.