Как iPhone предсказывает следующее слово, которое вы собираетесь ввести в своем сообщении? Технология, стоящая за этим, а также лежащая в основе многих приложений ИИ, называется преобразователем; алгоритм глубокого обучения, который обнаруживает закономерности в наборах данных. Теперь исследователи из EPFL и KAIST создали преобразователь для металлоорганических каркасов (MOF), класса пористых кристаллических материалов. Комбинируя органические линкеры с металлическими узлами, химики могут синтезировать миллионы различных материалов с потенциальными применениями в области накопления энергии и разделения газов.
«MOFtransformer» разработан как ChatGPT для исследователей, изучающих MOF. Его архитектура основана на искусственном интеллекте под названием Google Brain, который может обрабатывать естественный язык и формирует ядро популярных языковых моделей, таких как GPT-3, предшественник ChatGPT. Основная идея этих моделей заключается в том, что они предварительно обучены большому количеству текста, поэтому, например, когда мы начинаем печатать на iPhone, такие модели «знают» и автоматически дополняют наиболее вероятное следующее слово.
«Мы хотели изучить эту идею для MOF, но вместо словесного предложения мы хотели, чтобы оно предлагало свойство», — говорит профессор Беренд Смит, который руководил частью проекта EPFL. «Мы предварительно обучили MOFTransformer с миллионом гипотетических MOF, чтобы изучить их основные характеристики, которые мы представили в виде предложения. Затем модель была обучена завершать эти предложения, чтобы дать правильные характеристики MOF». Затем исследователи точно настроили MOFTransformer для задач, связанных с хранением водорода, таких как емкость хранения водорода, его коэффициент диффузии и ширина запрещенной зоны MOF («энергетический барьер», который определяет, насколько легко электроны могут проходить через материал). ).
Подход показал, что MOFTransformer может получать результаты, используя гораздо меньше данных по сравнению с обычными методами машинного обучения, которые требуют гораздо больше данных. «Благодаря предварительному обучению MOFTtransformer уже знает многие общие свойства MOF, и благодаря этому знанию нам нужно меньше данных для обучения другому свойству», — говорит Смит. Более того, для всех свойств можно использовать одну и ту же модель, в то время как при обычном машинном обучении для каждого приложения необходимо разрабатывать отдельную модель. MOFTransformer меняет правила игры в изучении MOF, обеспечивая более быстрые результаты с меньшим объемом данных и более полным пониманием материала. Исследователи надеются, что MOFTransformer проложит путь к разработке новых MOF с улучшенными свойствами для хранения водорода и других приложений.
Источник: ufonews.su
