1 2
3. Материалы и методики
3.1 Выбор материала исследования
В качестве материалов исследования были выбраны высокоэнтропийные сплавы, химический состав которых указан в таблице1.
Таблица 1
Химический состав выплавленных сплавов
Alloys Al Cr Nb Ti V Zr
A1 13 0 10 44 28 5
A2 12 2 19 44 16 7
A3 15 11 6 37 20 11
A4 11 7 25 50 14 11
A5 14 13 23 22 26 2
A6 12 1 22 31 20 14
A7 14 3 21 34 4 24
A8 10 0 20 36 13 21
Индексы в сплавах показывают атомную долю компонента. Если цифра не указана – атомная доля компонента равна 1. Сплавы были получены с помощью метода вакуумно-дугового переплава. Перед плавкой навески исходных металлов промывались в ацетоне в ультразвуковой ванне. Для получения химически однородных сплавов образцы переплавляли не менее 5 раз, вес готовых заготовок составил 20 г. После проведения выплавки над образцами производили резку на электроэрозионной установке LaboPol-5 фирмы «Struers» с применением механического шлифования на наждачных кругах Р120-Р4000. Шлифованные образцы запаивались в кварцевую трубку и отжигались при 12000С в течение 10 часов. После отжига образцы закаливались в воду.
3.2 Испытания на одноосное сжатие
Испытания на осадку образцов высокоэнтропийных сплавов выполняли согласно ГОСТ 8817-82 «Металлы. Метод испытания на осадку». Размер образцов для испытаний имеет следующие геометрические параметры 6×6×9 мм3. Осадка сплавов происходила по методу одноосного сжатия с помощью испытательной машины Instron при комнатной температуре. Была выбрана скорость деформации 10-4с-1. Поверхность образцов подготавливалась шлифовкой и полировкой. Шлифовка производится на вращающемся круге, на поверхность которого закреплена абразивная бумага.
При шлифовании необходимо переходить от одной наждачной бумаги к другой, уменьшая при этом зернистость. Каждый раз при смене наждачной бумаги образец поворачивают на угол 90°.
Следующим этапом за шлифовкой является полировка, целью которой является устранение царапин, которые возникли от воздействия абразивных частиц, которые образовались во время шлифовки. Для полировки использовались специальные полировочные диски и суспензии с абразивными частицами и коллоидной-кремниевой суспензии OP-S.
Так была подготовлена поверхность образцов для металлографических исследований и в том числе для проведения механических испытаний на осадку.
3.3 Создание обучающего набора, расчет признаков для работы генетического алгоритма
Для того, чтобы решить задачу предсказания пластичности высокоэнтропийных сплавов встала необходимость создания обучающего набора данных. Для этого были использована база данных [16]. В результате удалось собрать базу данных размером в 100 сплавов, которая представляет собой таблицу химических составов материалов и их пластичности.
Одним из важных факторов, влияющих на точность модели в машинном обучении является набор используемых признаков материалов. С этой целью важно создать такой набор, но поскольку неизвестно какие признаки являются оптимальными необходимо использовать как можно больше «хороших» дескрипторов. Тогда можно будет гарантировать, что выбор признаков объясняет заданное целевое свойство (в нашем случае — пластичность).
Совокупность признаков материалов (сплавов) может быть построено на основе элементарных, термодинамических, кинетических параметрах, а также на основе знания структурной информации. К элементарным параметрам относят такие параметры как атомная масса, период и группу в таблице Менделеева, а также такие свойства элементов как электроотрицательность по Полингу, атомный радиус и другие важные свойства.
Термодинамические и кинетические параметры, такие как свободная энергия, энтропия и энтальпия смешения и коэффициенты диффузии, используются для определения стабильности конкретной фазы или протекания конкретной реакции.
Результаты вычислений теории функционала электронной плотности, включая объем элементарной ячейки, ширину запрещенной зоны, энергию когезии, упругие постоянные, диэлектрические постоянные, электронную структуру и фононные свойства, более многочисленны и обычно внедряются в дескрипторы структуры машинного обучения для повышения производительности моделей машинного обучения. Несмотря на вышеупомянутые общие аспекты построения пространства дескрипторов материалов, конкретные дескрипторы также должны быть добавлены к конкретным задачам.
Мы свели признаки материалов, которые потенциально влияют на пластичность высокоэнтропийных сплавов [13-15]. В литературе предложены следующие дескрипторы эмпирических материалов: энтальпия смешения, энтропия смешения и дескриптор (Ω), который количественно определяет преобладание энтропии над энтальпией, являются основными термодинамическими дескрипторами. Элементные дескрипторы, включая концентрацию валентных электронов, разницу в электроотрицательности Полинга, электроотрицательности Аллена, разность размеров атомов и другие геометрические дескрипторы, рассчитываются на основе расширенных классических правил Юм-Розери.
Каждый элементарный параметр в нашем пространстве композиций может быть представлен молярным средним значением X элементного параметра Xi как:
(3.3.1)
, где — мольная доля этого элемента. Другой способ описать каждый сплав состоит в вычислении значения рассогласования между элементарными параметрами его компонентов. δX задается формулой:
, где — мольная доля этого элемента, а — среднее молярное значение, полученное с помощью уравнения (3.3.1) . Таким образом, вводятся 76 дескрипторов материалов, которые могут вносить свой вклад в пластичность высокоэнтропийных сплавов. Всего пространство дескрипторов материалов содержит 76 дескрипторов материалов, которые перечислены в таблице 1. Исходные данные обучения включают информацию о соответствующих химических составах. Все композиции используются для вычисления признаков по формулам, приведенным в таблице, с вводом свойств элементов. Поскольку мы можем легко получить доступ к этим свойствам элементов, все дескрипторы доступны как для наших обучающих данных, так и для виртуальных данных.
Поскольку дескрипторы материалов различаются по величине, единицам измерения и большинство алгоритмов машинного обучения используют эвклидово расстояние между двумя точками данных, дескрипторы материалов с высокими величинами будут весить больше по сравнению с дескрипторами с низкими величинами. Чтобы привести дескрипторы всех материалов к одному и тому же уровню величин, каждый дескриптор материалов подвергают минимаксному шкалирование. В минимаксном шкалирование для определения новых значений признаков из старых используют наименьшие и наибольшие значения. В частности, минимакс определяют следующим образом:
, где вектор признаков, прошкалированный элемент.
Таблица 2
Набор признаков для обучающего алгоритма
Параметр Аббревиатура Формула
Разница
атомных
размеров
R
Электроотрицательность по Полингу
Электроотрицательность по Аллену
Электроотрицательность по Оганову
Концентрация валентных электронов
Энтальпия смешения
Энтропия смешения
Комбинационный эффект энтальпии и энтропии смешения
Температура плавления
Энергия образования твёрдого раствора
Модуль Юнга
Первый ионизационный потенциал
Второй ионизационный потенциал
Третий ионизационный потенциал
Работа выхода
Атомный номер
Квантовое число
Колонка в периодической системе C
Релятивистская
атомная масса
Атомный объём
Электроотрицательность
(Бацанов)
Электроотрицательность
(Альфред Рошоу)
Абсолютная электроотрицательность
Химический потенциал
Эффективный заряд ядра
Температура по Больцману
Энтальпия испарения
Энтальпия плавления
Атомная энтальпия
Ионный радиус
Ковалентный радиус
Плотность
валентных
электронов
Плотность
3.4 Общая схема работы генетического алгоритма, выбор набора признаков и алгоритма машинного обучения, обеспечивающего максимальную точность предсказания
Нетрудно убедиться, что число комбинаций из отобранных признаков неограниченно огромно. С этой целью используем генетический алгоритм, который может достаточно быстро найти оптимальное решение. Каждый признак сплавов шифруется целым числом от 1 до 72, что обозначает номер выбранного признака. Следовательно, набор дескрипторов, подлежащих оптимизации будет описываться строкой, состоящей из вещественных чисел от 1 до 72. Основная блок-схема эволюционного приведена на рис.3. Определённый набор признаков должен обеспечить наибольшую точность для определения пластичности высокоэнтропийных сплавов.
Таким образом может быть достигнута оптимальная комбинация модели машинного обучения и дескрипторов материалов.
Рис. 3. Схема работы эволюционного алгоритма с машинным обучением
Как видно из блок-схемы работы генетического алгоритма совместно с машинным обучением на начальном этапе случайным образом инициализируется начальная популяция особей, представляющая собой строку генов, которые представляют собой определённый признак, который определён числом от 1 до 72.
Рассчитав значения функции пригодности для начальной популяции, которая представляет собой совокупность строк из признаков применили основные операторы эволюционного алгоритма: отбора, кроссинговера и мутации.
Новая популяция получившихся решений будет являться «начальной» популяцией. Цикл будет повторяться до тех пор, пока не выполнится хотя бы одно из условий остановки: число поколений достигло максимально заданного количества или была достигнута наилучшая точность.
Для тестирования различных регрессивных моделей машинного обучения данные разбивались случайным образом, так что на 70% происходила тренировка модели, а на 30 % — её тестирование. Данная процедура повторялась 10 раз. Далее полученные результаты тестирования усреднялись, а полученные величины трактовались как результаты работы регрессора.
3.5 Алгоритм машинного обучения
В машинном обучении гиперпараметрами называют такие числовые значения переменных в модели, которые устанавливаются только перед процессом обучения. Гиперпараметры необходимы для контроля процесса обучения. Метод опорных векторов использует несколько гиперпараметров: C и epsilon.
С целью нахождении оптимального гиперпараметра модели признаки необходимо разделить на 3 части:
1). Тренировочный набор данных, который используется для тренировки модели машинного обучения.
2). Валидационный набор данных, который используется для оценки качества обучения модели в процессе перебора обучающихся гиперпараметров.
3). Тестовый набор данных, который используется для оценивания критерия качества работы модели.
Оптимизация гиперпараметра осуществлялась с помощью метода поиска по решётке, который делает перебор значений заданной величины по заданному вручную множеству пространства гиперпараметра метода опорных векторов.
4 Результаты
4.1 Результаты выбора дескриптора материалов для различных моделей машинного обучения
Результатом работы генетического алгоритма является оптимальный набор признаков, который обеспечил минимального среднеквадратичное отклонение на тестовых данных для каждой из 4 моделей машинного обучения.
В данной части работы выбираются определённые дескрипторы материалов для различных моделей обучения. Как было раньше показано одним из основных методов для решения таких задач с огромным числом признаков является генетический алгоритм. Данный метод способен находить наилучшие признаки для различных моделей искусственного интеллекта, применимо к задаче определению пластичности сплавов.
В качестве примера суррогатной модели мы выбрали: метод опорных векторов, алгоритм к-ближайших соседей, байесовский регрессор и линейную регрессию.
На первом этапе эволюционного алгоритма был проведён расчёт точности метода опорных векторов 20 раз с целью получения оптимального числа признаков.
Результатом стало построение графика точности метода опорных векторов для регрессии, который изображён на рис.4. Линия на графике показывает среднеквадратичную ошибку регрессора метода опорных векторов от числа признаков. Заметим, что при числе признаков равным 8 среднеквадратичная ошибка минимальна. Исходя из данного предположения выберем 8 признаков для решения поставленной задачи.
Первоначально набор признаков материалов составляет 300 подмножеств, которые выбираются случайным образом. Эти 300 разных подмножеств являются родительским поколением для следующих. Для каждого подмножества признаков используется метод опорных векторов с rfb ядром.
Рис.4. График зависимости среднеквадратичной ошибки от числа признаков для метода опорных векторов
Каждое поколение признаков, которое получается операторами мутации и скрещивания особей (совокупности признаков) должно давать точность не хуже, чем предыдущее поколении. Поэтому с целью проверки правильности проверки параметров эволюционного алгоритма был построен график зависимости среднеквадратичной ошибки от количества итераций в пределах одного прогона эволюционного алгоритма для метода опорных векторов. Синяя сплошная линия, которая показана на рисунке 5, показывает среднеквадратичную оценка для лучших представителей особей (признаков) каждой итерации.
В нашей реализации эволюционного алгоритма, подмножества исходных признаков материалов содержат случайно выбранные дескрипторы. При каждой итерации данные подмножества признаков используются в последующие поколения с целью улучшения точности модели, которые сохраняются там с помощь оператора отбора. Операторы скрещивания (кроссинговера) и мутации быстро точечно исследуют новое поколение, которое предположительно должно иметь большую точность. Из графика (рис.5) нетрудно заметить, что уже после 5 итераций генетического алгоритма как средняя точность приводит первоначально к росту точности с последующим выходом на насыщение. Следовательно, параметры эволюционного алгоритма можно считать оптимальными для решения поставленной задачи.
Рис.5. График зависимости среднеквадратичной ошибки в зависимости от числа итераций генетического алгоритма
Средняя точность быстро возрастают за первые несколько итераций и сходятся к оптимальному решению. Повторял вышеописанную процедуру 20 раз с целью получения оптимального решения, так как эволюционные алгоритмы по своей структуре относят к методам стохастического анализа и результат работы зависит как от случайно созданной на начальном этапе популяции, так и от типов операторов мутации и скрещивания. Целью заданной процедуры является нахождение оптимальной комбинации признаков в пределах 20 расчётов.
Результаты вышеописанной процедуры были занесены в таблицу 3. Все подмножества содержат 8 дескрипторов, которые показали наилучшую точность на каждой из моделей машинного обучения, которые и сведены в таблицу.
Таблица 3
Точность моделей машинного обучения
Метод отбора признаков Модель обучения Признаки Ошибка
Генетический алгоритм Линейная регрессия ,,
RA 8,2
Генетический алгоритм Метод опорных векторов , , , ,
, , ,
8
Генетический алгоритм Байесовская
регрессия , , ,
RA ,, RAM) , 8
Генетический алгоритм К ближайших соседей ,, δ, RA ,
,, CE
7,3
Делая статистический анализ полученных признаков можно сделать вывод, что в 3-ёх моделях – присутствует энтальпия смешения, радиус атомов и электроотрицательность по Оганову. Из таблицы 2 видно, что самым оптимальным алгоритмом для решения поставленной задачи является метод ближайших соседей.
С целью выявления сильно взаимосвязанных признаков были построены матрицы корреляции для 4 алгоритмов машинного обучения, которые показаны на рис.6.
Корреляция по Байесу Метод ближайших соседей
Линейная регрессия Метод опорных векторов
Рис.6. Матрицы корреляций признаков
На рис.7. представлена гистограмма, на которой показана точность каждой модели машинного обучения для определённого набора подобранных признаков, которые отобраны с помощью эволюционного алгоритма.
Рис.7. Гистограмма точности моделей машинного обучения
4.2 Результаты работы машинного обучения
В предыдущем подпункте в генетическом алгоритме были использованы модели машинного обучения с найденными оптимальными признаками без настройки гиперпараметров. Так большинство алгоритмов машинного обучения содержат данный тип параметров, которые должны выбираться до начала процесса тренировки модели необходимо провести анализ их влияния на точность моделей.
В нашем решении мы тренируем 2 модели и строим график зависимости точности регрессоров для тренировочного набора и во время перекрёстной проверки по мере увеличения определённого гиперпараметра. На рис.8 показан процесс оценивания модели на тестовых данных до выбора гиперпараметров для метода опорных векторов.
Рис.8. Сравнение предсказанных параметров с тестовыми для метода опорных векторов
К основным гиперпараметрами метода опорных векторов относят параметры C и epsilon. C целью изучения влияния их на точность модели были построены валидационные кривые.
Из валидационных кривых, изображённых на рисунках 9 и 10 видно, что с ростом значения гиперпараметра С как тренировочная оценка, так и перекрёстно-проверочная оценка уходят на насыщение. Средняя квадратичная ошибка при перекрёстно-проверочной оценке по мере увеличения С сначала падает, достигая своего минимума, а затем увеличивается до насыщения.
Рис.9 Зависимость точности метода опорных векторов от гиперпараметра С
Рассуждая аналогичным образом можно показать, что значение гиперпараметра epsilon будет оптимально при малых значениях, так средняя квадратичная ошибка падает при увеличении данного гиперпараметра.
Рис.10 Зависимость точности метода опорных векторов в зависимости от гиперпараметра epsilon.
Оценим точность модели опорных векторов после процедуры назначения гиперпараметров. На рис.11 показан процесс оценивания модели на тестовых данных после выбора гиперпараметров для метода опорных векторов.
Рис.11 Сравнение предсказанных параметров с тестовыми для метода опорных векторов после отбора лучших гиперпараметров
Нетрудно заметить, что точки пространства истинное значение и предсказанное значение пластичности ближе прилегают к прямой, а значит точность модели больше. Аналогичная процедура выполнена для метода ближайших соседей.
Рис.12 График разброса истинных и тестовых значений для метода ближайших соседей
Существенным гиперпараметрами, влияющим на точность модели KNR является число ближайших соседей. На рис.13 построена валидационные кривая для оценки влияния параметра n_neighbors. Видно, что при увеличении гиперпараметра точность тренировочной оценки уменьшается, а средняя квадратичная ошибка для перекрёстно-проверочной оценки уменьшается. Так как при больших n_neighbors две оценки уходят на насыщение, то за число ближайших соседей составит 8 в оптимальном случае.
Рис.13 Зависимость точности метода ближайших соседей от числа ближайших соседей
График разброса истинных и предсказанных значений был построен для метода KNR (рис.14) c учётом параметра n_neighbors=8. Видно незначительное улучшение в точности KNR .
Рис.14 График разброса истинных и тестовых значений для метода ближайших соседей после выбора оптимальных гиперпараметров.
4.3 Получение сплавов и оценка точности модели
Учитывая наши найденные оптимальные признаки и модели машинного обучения был произведён расчёт, с целью тестирования модели для предсказания пластичности новых выплавленных высокоэнтропийных сплавов. Химический состав сплавов, а также результаты расчёта их пластичности приведены в таблице 3.
Таблица 3
Химический состав выплавленных сплавов
Alloys Al Cr Nb Ti V Zr δпр,% δ,%
A1 13 0 10 44 28 5 — 7
A2 12 2 19 44 16 7 — 6
A3 15 11 6 37 20 11 1 8
A4 11 7 25 50 14 11 — 3
A5 14 13 23 22 26 2 12 12
A6 12 1 22 31 20 14 10 7
A7 14 3 21 34 4 24 1 8
A8 10 0 20 36 13 21 1 9
Для проверки соответствующих результатов сплавы выплавили вакуумно-дуговым методом, произвели обработку, шлифовку и полировку. Образцы испытывали на испытательной машине на сжатие. Сплавы А1, А2, А4 разрушились в упругой области. Сплавы А3, А5, А6, А7, А8 имеют пластичность около 1%,12 % ,10% ,1% и 1% соответственно.
Анализ пластичности выплавленных сплавов с полученными теоретическими значениями показал, что может предсказывать пластичности в рамках вышеприведённых стандартных отклонений. Задачу считаю выполненной, но для дальнейшего улучшения точности предсказания моделей необходим более детальный анализ. В частности, необходимо учитывать фазовый состав сплава, его микроструктуру, взаимное расположение частиц, а также плотность дислокаций.
Выводы
В главе 1 и 2 был дан обзор литературы, который посвящён высокоэнтропийными сплавам, были рассмотрены такие методы моделирования как машинное обучение и генетический алгоритм. Рассмотрены основные концепции работы машинного обучения и эволюционного алгоритма.
В главе 3 исходя из выбранной тематики работы и поставки работы были выбраны такие методики, как испытания на осадку, сбор базы данных, конструирование моделей машинного обучения и генетического алгоритма.
В главе 4 даны основные результаты. Было показано, что эволюционный алгоритм при 8 признаках показывает наилучшую точность для решения задачи по предсказанию пластичности высокоэнтропийных сплавов. В качестве моделей машинного обучения использовали метод опорных векторов, метод ближайших соседей, байесовский регрессор и линейная регрессия. Как показано самым оптимальным вариантом выбора модели является метод случайных соседей, который дал минимальную среднеквадратичную ошибку.
Анализ пластичности выплавленных сплавов с полученными теоретическими значениями показа, что может предсказывать пластичности в рамках вышеприведённых стандартных отклонений. Задачу считаю выполненной, но для дальнейшего улучшения точности предсказания моделей необходим более детальный анализ. В частности, необходимо учитывать фазовый состав сплава, его микроструктуру, взаимное расположение частиц, а также плотность дислокаций.
СПИСОК ИСПОЛЬЗУЕМОЙ ЛИТЕРАТУРЫ
[1] J.W. Yeh, et al., Formation of simple crystal structures in Cu-Co-Ni-Cr-Al-Fe-Ti-V alloys with multiprincipal metallic elements, Metall. Mater. Trans. A 35 (8) (2004) 2533–2536.[2] C.-J. Tong, M.-R. Chen, J.-W. Yeh, S.-J. Lin, S.-K. Chen, T.-T. Shun, S.-Y. Chang, Mechanical performance of the AlxCoCrCuFeNi high-entropy alloy system with multiprincipal elements, Metall. Mater. Trans. 36 (2005) 1263e1271.
[3] Y. Zhang, Y.J. Zhou, Solid solution formation criteria for high entropy alloys
561 (2007) 1337e1339.
[4] C. Li, J. Li, M. Zhao, Q. Jiang, Effect of alloying elements on microstructure and properties of multiprincipal elements high-entropy alloys, J. Alloy. Comp. 475 (2009) 752e757.
[5] Y. Zhang, Mechanical Properties and Structures of High Entropy Alloys and Bulk Metallic Glasses Composites, vol. 654, 2010, pp. 1058e1061.
[6] H. Diao, R. Feng, K. Dahmen, P. Liaw, Fundamental deformation behavior in high-entropy alloys: an overview, Curr. Opin. Solid State Mater. Sci. 21 (5) (2017) 252e266.
[7] Yan Zhang , Cheng Wen , Changxin Wang , Stoichko Antonov , Dezhen Xue , Yang Bai , Yanjing Su Phase prediction in high entropy alloys with a rational selection of materials descriptors and machine learning models 185(2019)
[8] Гилл Ф. Практическая оптимизация / Ф. Гилл, У. Мюррей, М. Райт; пер. с англ. – М.: Мир, 1985. – 509 с
[9] Панченко Т.В. Генетические алгоритмы: учеб.-метод. пособие / Т.В. Панченко; под ред. Ю.Ю. Тарасевича. – Астрахань: Астраханский ун-т, 2006. – 89 с.
[10] Вороновский Г. К., Махотило К. В., Петрашев С. Н., Сергеев С. А. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности. – Харьков: Основа, 1997.
[11] Oganov, A. R. & Glass, C. W. Crystal structure prediction using ab initio evolutionary techniques: Principles and applications. Journal of Chemical Physics 124, 244704 (2006).
[12] J. Fürnkranz, D. Gamberger, N. Lavrac, Machine Learning and Data Mining, Springer, Berlin Heidelberg, 2012. 1–17
[13] Y. Zhang, Y. Zhou, J. Lin, G. Chen, P. Liaw, Solid-solution phase formation rules for multi-component alloys, Adv. Eng. Mater. 10 (6) (2008) 534–538.
[14] M. Poletti, L. Battezzati, Electronic and thermodynamic criteria for the occurrence of high entropy alloys in metallic systems, Acta Materialia 75 (2014) 297–306.
[15] Z. Wang, Y. Huang, Y. Yang, J. Wang, C. Liu, Atomic-size effect and solid solubility of multicomponent alloys, Scripta Materialia. 94 (2015) 28–31.
[16] S. Gorsse , M.H. Nguyen , O.N. Senkov , D.B. Miracle Corrigendum to database on the mechanical properties of high entropy alloys and complex concentrated alloys, data in brief 21 (2018) 2664-2678.
1 2