Методичка 1990-х случайно объяснила, почему нейросети работают на любых данных

Разбирая старые методички по линейной алгебре, автор наткнулся на неожиданный пример: «Молекула воды — это вектор (2, 0, 1), молекула метана — (4, 1, 0)». Сначала это выглядело как вольность ради упражнения, но после размышлений стало ясно: автор методички прав, и заодно объяснил фундаментальный принцип современных нейросетей.

Суть в том, что любую сущность можно представить как набор чисел — вектор. В 1990-х это называли линейной алгеброй, сегодня — representation learning. Именно поэтому нейросети способны работать с текстом, изображениями, звуком и даже химическими формулами: всё сводится к векторам, над которыми можно выполнять математические операции.

Этот пример из прошлого наглядно показывает, что идея векторного представления данных не нова — просто теперь она стала основой целой индустрии искусственного интеллекта.