Пациентом исследования стал 45‑летний мужчина, у которого нейродегенеративное заболевание разрушило нейроны, контролирующие мышцы — включая те, что отвечают за артикуляцию. В результате он мог издавать отдельные звуки и слова, но они выходили медленно и невнятно.
Пять лет спустя ему имплантировали 256 электродов по 1,5 мм каждый в моторную зону коры — центр управления движениями. Ученые обучили глубокие нейронные сети импланта анализировать мозговую активность каждые 10 миллисекунд. Отличие их импланта в том, что система воспроизводит не набор звуков или заранее прописанных слов, а именно интонации, которые человек пытается издать — даже полностью новые, придуманные сочетания звуков.
Чтобы синтетический голос звучал естественно, ученые обучили алгоритмы на записях речи мужчины до заболевания, придав ему собственные тембр и интонацию. Благодаря новой системе участник мог не просто повторять заранее заданные фразы, а свободно выражать свои мысли, в том числе с помощью слов, которых нейросеть раньше не «слышала». Он отвечал на вопросы, строил собственные высказывания и делился тем, что хотел сказать именно сейчас. Услышав, как его синтетический голос произносит эти слова, он признался, что чувствует радость — будто возвращает себе свой подлинный голос.
В отдельных испытаниях исследователи проверяли, способен ли интерфейс улавливать тон высказывания — например, превращать фразу в вопрос или подчеркивать нужное слово. И действительно: алгоритм улавливал интонационные акценты и отражал их в синтезированной речи, делая ее выразительной и живой.
Для нейроинженеров это значимый шаг. Это уже похоже на то, что может использоваться в реальной жизни. Способность устройства передавать интонации и новые слова делает его потенциально незаменимым для общения людей, утративших голос.