Message Passing: как нейросети учатся на графах

Серия 17, Пост 1 | Дата публикации: 30 июля 2026, 19:30 MSK
Канал: @fminxyz

Текст поста (Telegram, ~1800 символов)

Все нейросети работают с таблицами, изображениями, текстами. Но молекулы, социальные сети, карты дорог — это графы. Как с ними работать?

Ответ — Graph Neural Networks. И их основа — Message Passing.

Идея проста:

Каждая вершина графа знает только о себе. Но соседи могут ей «писать сообщения».

На каждом шаге:

mᵥ = AGG({hᵤ : u ∈ N(v)})    # собрать сообщения
hᵥ' = UPDATE(hᵥ, mᵥ)         # обновить себя

После K итераций каждая вершина «видит» окрестность радиуса K.

Conv2D — частный случай GNN:

В обычной свёртке пиксель агрегирует соседей 3×3. Это ровно Message Passing — но на регулярной сетке. GNN обобщает это на произвольные нерегулярные графы.

Реальный пример — молекула кофеина (C₈H₁₀N₄O₂):

• Атомы = вершины (тип элемента, заряд, гибридизация)
• Химические связи = рёбра
• После 3 итераций каждый атом знает своё 3-hop химическое окружение

Именно так MPNN (Message Passing Neural Network, Gilmer et al. 2017) предсказывает квантовые свойства молекул. И именно это стало фундаментом AlphaFold 2.

Почему это важно для оптимизации (связь с PhD):

Message Passing = расщепление операторов на графах. На каждом шаге: локальная операция (UPDATE) → глобальная агрегация (AGG). Тот же принцип, что ADMM и operator splitting!

Следующий пост: Graph Attention Networks — что если соседям нужны разные веса?

#ML #GNN #GraphNeuralNetworks #DeepLearning

Медиа

• Видео: gnn_message_passing_animation.mp4 (25с, 655KB, 1080×1080)
• Фаза 1: Граф молекулы кофеина — атомы и связи, случайные признаки
• Фаза 2: Message Passing шаг 1 — стрелки от соседей к центральному атому
• Фаза 3: Message Passing шаг 2-3 — рецептивное поле расширяется
• Фаза 4: Conv2D vs GNN сравнение — регулярная сетка vs произвольный граф

Ссылки

• MPNN: Gilmer et al. 2017 — https://arxiv.org/abs/1704.01212
• GNN survey: Wu et al. 2020 — https://arxiv.org/abs/1901.00596
• PyTorch Geometric: https://pytorch-geometric.readthedocs.io/

Cross-promotion

← Предыдущая серия: RAG & Knowledge Systems (Series 16, июль 2026)
→ Следующий пост: Graph Attention Networks (31 июля)