Исследование проясняет, как нейронные сети «думают» при обработке языка: техника общего назначения проливает свет на внутреннюю работу нейронных сетей, обученных обрабатывать язык.
Во время обучения нейронная сеть постоянно корректирует тысячи внутренних параметров, пока не сможет надежно выполнить какую-либо задачу, такую как идентификация объектов в цифровых изображениях или перевод текста с одного языка на другой. Но сами по себе окончательные значения этих параметров очень мало говорят о том, как нейронная сеть делает то, что она делает. …