Вы, наверное, читали об этом. Илон Маск называет искусственный интеллект нашей самой большой экзистенциальной угрозой. Билл Гейтс и другие крупные мыслители соглашаются с ним. Как человек действия, он что-то делает с этим и вместе с другими людьми основал некоммерческую организацию под названием Открытый ИИ.

Открытый ИИ собрал лучших специалистов в сообществе глубокого обучения. Они обратились к Джошуа Бенглио, который является единственным из «отцов-основателей» Deep Learning, не работающим в компании, производящей программное обеспечение, и попросили его назвать список лучших талантов, работающих над Deep Learning. Они сделали предложения 10 из них, и 9 согласились присоединиться к ним.

Вчера основанная ими некоммерческая организация выпустила свой первый инструментарий. Он называется GYM, и его цель - помочь решить следующую наиболее сложную проблему на пути машинного обучения: обучение без учителя.

Большинство используемых сегодня моделей глубокого обучения были тщательно обучены их создателями. Им был предоставлен набор данных, которые проверяются людьми перед тем, как скормить их моделям. Это гарантирует точность моделей. Но создание этих наборов данных - это большая работа.

В нашем проекте мы используем две из этих моделей: Neural Talk Андрея Карпати и модель ImageNet от Google. Мы используем эти алгоритмы статически, что означает, что мы не возвращаем им исправления наших пользователей. Позвольте мне объяснить на примере:

На скриншоте выше показана интерпретация двух моделей изображения совы у забора. NeuralTalk озаглавил это как: «Птица сидит на ветке дерева». Алгоритм Google правильно определил его как Серая сова, даже дав научное название Стрикс. Nebulosa. Но есть проблемы с этими подписями. Первый алгоритм интерпретирует забор с плющом как дерево. Второй даже не считает.

Флажки позволяют пользователю «отменить выбор» имен, которые не соответствуют изображению, а также ввести новую подпись. В идеальном мире люди вели бы себя цивилизованно и использовали имена собственные и подписи.

Через несколько часов после того, как наша страница была запущена, в наших данных уже была нецензурная лексика.

Каким-то образом человеческая природа - пытаться одурачить или обмануть других существ. Это знает каждый, кто пытался выучить второй язык. Первые слова, которым некоторые люди щедро пытаются научить вас, - это нецензурная лексика. И они получают удовольствие, когда вы используете их, чтобы оскорбить кого-то, даже не подозревая об этом.

Люди уже использовали слова, которые нельзя напечатать, для обозначения объектов на изображениях в нашей системе. Нам пришлось пойти и установить фильтры, чтобы избежать употребления некоторых слов. Но это неправильное решение. Правильное решение - иметь модель, которая знает, когда некоторые записи, сделанные пользователями, пытаются обмануть и игнорировать их. И поскольку у нас еще нет правильного решения, поэтому мы используем модели в статическом режиме и не возвращаем им данные, полученные от наших пользователей. Это означает, что наши модели не обучаются.

Open AI Gym - это платформа для разработки и сравнения «алгоритмов обучения с подкреплением». Это поможет сообществу преодолеть следующий барьер в дорожной карте технологий.

Но то, что группа OpenAI закладывает палку в землю, - больше, чем просто следующий шаг в сообществе машинного обучения. Позвольте мне объяснить почему:

Тим Урбан, человек немногословный, хорошо выразился в своем посте "Подождите, но зачем" о революции искусственного интеллекта (Осторожно, длинное и очень интересное чтение ). Позвольте мне украсть график из его сообщения. Интеллектуальная лестница:

Этот рисунок многое говорит о том, как мы видим существ, которые менее разумны, чем мы. Есть несколько интересных наблюдений:

  • Мы уважаем жизнь самых умных млекопитающих. Вот почему мы защищаем дельфинов, горилл и не едим своих домашних животных.
  • По мере того, как животные спускаются по лестнице, мы начинаем их есть и использовать в наших интересах.
  • В зависимости от ваших убеждений, насекомые могут лечиться только «подошвой вашей обуви».

Для меня самое интересное в рисунке - это пространство над лестницей. Это пространство, которое будут занимать будущие разумные существа. Во многих разговорах, которые я вел об этом с моими друзьями, мы почти всегда заканчивались сценарием «Аквариум». В этом сценарии высшие разумные существа будут держать людей так же, как мы держим рыб в наших аквариумах.

На самом деле мы мало знаем, о чем думают наши рыбы, и, за исключением очень простого поведения, мы не можем взаимодействовать с ними. Конечно, это чрезмерное упрощение, поскольку существует множество сценариев развития революции искусственного интеллекта. И это именно то, что побудило Илона Маска создать Открытый ИИ.

Неожиданно крупнейшими игроками революции глубокого обучения стали известные всем нам известные компании-разработчики программного обеспечения: Google, Facebook, Microsoft, IBM, Baidoo. И хотя в настоящее время в сообществе искусственного интеллекта принято делиться всем, над чем они работают, неясно, что:

А) Они будут продолжать это делать

Б) Они действительно все делятся.

Несколько дней назад я смотрел очень интересную презентацию моего друга Гидеона Розенблатта. Ближе к концу выступления он затронул проблему машины идеальной прибыли. Большинство современных предприятий сосредоточены на максимальном увеличении акционерной стоимости. Они используют робототехнику и искусственный интеллект для повышения своей конкурентоспособности, снижения затрат и устранения любой работы, которую может выполнять машина. Это просто правила рынка, и изменить их невозможно.

Развитый искусственный интеллект будет определяться окружающей средой, нашим сводом законов, нашей экономической системой. Если мы оставим эту работу нынешним крупным игрокам, результаты могут быть не такими гуманистическими, как мы надеемся.

Некоторые из этих компаний возглавляют идеалисты. У Google есть мантра «никакого зла». Марк Цукерберг не зацикливается на прибылях. Я оптимист и верю, что они будут руководить разработками в области искусственного интеллекта в своих компаниях. Но хорошо, когда некоммерческая организация, такая как Open AI, действует как противовес и держит их под контролем.

Вот почему я считаю важным то, что Open AI решил сосредоточить свои усилия на «формировании» следующего шага в области искусственного интеллекта. Это смелый ход, и он хорошо сыгран.

Если вы хотите попробовать нашу историю создания моделей субтитров к изображениям, воспользуйтесь этой ссылкой. Только не учите его только плохим словам ;-)