Джеффри Хинтон – британско-канадский ученый-информатик и психолог, известный своим вкладом в области искусственного интеллекта (ИИ). Самое известное исследование Хинтона включает в себя разработку алгоритмов машинного обучения (ML) для выявления процедуры, которая является эффективной для поиска сложных структур в больших массивах данных большой размерности. Хинтон являлся частью команды, которая представила алгоритм обратного распространения и первым использовал обратное распространение для изучения вставок слов. Другие заметные вклады в исследования нейронных сетей включают машины Больцмана, распределенные представления, нейронные сети с задержкой времени, вариационное обучение, продукты экспертов и глубокие убеждения. Его исследовательская группа в Торонто совершила значительные прорывы в глубоком обучении, которые произвели революцию в распознавании речи и классификации объектов.
Семейные связи и обучение
Хинтон родился 6 декабря 1947 года. Вырос учёный в Англии. Кроме того, Хинтон кровно связан с математиком Мэри Эверестом и логиком Джорджем Булом, хирургом Джеймсом Гинтоном и геодезистом Джорджем Эверестом. Хинтон учился в Кембриджском университете между 1967 и 1970 годами. Он попытался изучать ряд предметов, включая физиологию, физику и философию, прежде чем получить степень по экспериментальной психологии. Короткое время он работал плотником, прежде чем начать докторскую диссертацию по искусственному интеллекту в Эдинбургском университете в 1972 году. В то время это была единственная аспирантская программа в Великобритании по этой теме.
Закончил обучение Хинтон в 1975 году, но степень доктора философии получила лишь в 1978. Работа Хинтона была сосредоточена на нейронных сетях, структурах, имитирующих человеческий мозг. Нейронные сети были непопулярной отраслью искусственного интеллекта в течение 1970-х годов, и научный руководитель Хинтона, Кристофер Лонге-Хиггинс, регулярно призывал его изменить свой подход.
Участие в аукционе и должности
Получив степень доктора философии, Хинтон занимал исследовательские должности в Университете Сассекса, Калифорнийском университете Сан-Диего, Совете медицинских исследований (MRC) и Университете Карнеги-Меллона, прежде чем занять должность профессора в Университете Торонто в июле 1987 года.
Кроме трех лет в Университетском колледже Лондона (1998–2001), Хинтон работал в Университете Торонто, позже став почетным профессором. В 2012 году Хинтон и двое его аспирантов (Алекс Крыжевский и Илья Суцкевер) выиграли ImageNet, ежегодный конкурс по созданию самых точных систем ИИ для распознавания изображений. Они создали подставную компанию под названием DNNresearch, чтобы продать свой опыт на аукционе четырем технологическим фирмам (Google, Microsoft, Baidu и DeepMind), претендующим на компанию. Хинтон выбрал Google и присоединился к Google Brain, где он работал половину своего рабочего времени (вместе с Университетом Торонто) с марта 2013 года по май 2023 года. Хинтон покинул Google Brain, ссылаясь на беспокойство относительно влияния ИИ.
Ассоциация вычислительной техники (ACM) вместе с Йошуа Бенгио и Янном Лекуном присудила Хинтону премию Тьюринга 2018 за концептуальные и инженерные прорывы, которые сделали глубокие нейронные сети критически важным компонентом вычислений.
Достижения ученого
Хинтон также является членом Королевского общества, Королевского общества Канады и Ассоциации содействия развитию искусственного интеллекта. Он почетный иностранный член Американской академии искусств и наук и Национальной инженерной академии, а также бывший президент Общества когнитивных наук. Он получил почетные докторские степени в Эдинбургском, Сассекском и Шербрукском университетах. Он был награжден первой премией Дэвида Э. Румельхарта (2001), наградой IJCAI за совершенство в исследовании (2005), премией Киллама за инженерию (2012), золотой медалью IEEE Джеймса Клерка Максвелла (2016) и золотой медалью Герц является главной наградой Канады в области науки и техники.
Прорыв в науке
Сам доктор Хинтон был принят в Королевское общество в 1998 году. В то время он вместе с Дэвидом Руммельхартом и Рональдом Уильямсом написал знаменательную статью о концепции обратного распространения – способе обучения искусственным нейронным сетям, который называют «отсутствующей математической частью» (необходимо для усиления машинного развития). Это означало, что вместо того чтобы людям приходилось продолжать возиться с нейронными сетями, чтобы улучшить их производительность, они могли сделать это сами.
Эта техника является ключевой для чат-ботов, которыми сейчас пользуются миллионы людей каждый день, каждый из которых базируется на архитектуре нейронной сети, которая учится на множестве текстовых данных для интерпретации подсказок и генерирования ответов. Сам ChatGPT хорошо осознает, насколько важно обратное распространение для его развития, описывая это как «ключевой прорыв», который помогает ChatGPT корректировать свои параметры, чтобы его прогнозы становились более точными с определенным временем.
