ym104432846
Вставьте ссылку на видео из Youtube, Rutube, VK видео
Задайте вопрос по видео
Что вас интересует?
00:00:05
Этика обучения генеративных моделей:
  • Обучение генеративных моделей вызывает этические вопросы
  • Процесс обучения нейросети похож на обучение человека навыкам
  • Прозрачность обучения создает возможность для споров об авторских правах
  • Ограничения на обучение могут негативно сказаться на качестве результатов
  • Важность защиты авторских и имущественных прав на изображения
00:04:36
Проблемы этичности результатов генерации:
  • Высококачественная генерация изображений, видео и голоса открывает возможности для создания фейков
  • Сложность технического разграничения благих и зловредных целей использования генерации
  • Увеличение доступности инструментов генерации расширяет круг пользователей с негативными целями
  • Примеры ограничений доступа к бесплатному использованию нейросетей
00:07:58
Демократизация производства мультимедийного контента:
  • Улучшение качества, скорости и снижение стоимости инструментов генерации
  • Бесплатный доступ к функциям ранее платных инструментов
  • Расширение круга создателей контента и возможное перенасыщение рынка контентом
  • Необходимость поиска решений для управления объемом производимого контента
0: И ещё не менее важный вопрос, который нужно обсудить, связанный с генерацией изображений, это этический момент и в целом вся этика генеративного.
1: Ии. Потому что в ней содержится ряд неких проблем и которые можно разделить на 2 основных, наверное, таких раздела. 1 из них это этическая проблема обучения нейросетей.
2: Очень интересное, как бы явление, которое мы с вами теперь наблюдаем за счёт того, что некоторые процессы, которые связаны с освоением навыков, стали прозрачными, что под этим подразумевается. Вот смотрите, когда человек приходит в галерею,
3: Смотрит на чужие работы и после этого начинает лучше рисовать. Мы с вами это воспринимаем позитивно. То есть человек, он улучшил свой как бы визуальный опыт, у него лучше стала насмотренность, и он как бы
4: Может уже в голове держать какие-то новые, да, там визуальные приёмы, например, смыслы, идеи. И это позволяет ему создавать гораздо более лучшие произведения. При этом если тоже самое совершает машина, то у нас с вами возникают вопросы, потому что внезапно сам
5: По себе процесс становится прозрачным. Важно здесь понимать, что, например, диффузная модель это не когда нейросеть собирает из каких-то готовых изображений коллаж это все-таки вещь, которая именно создаётся за счёт опять же насмотренности.
6: С нуля создаваемое изображение. При этом опять же, она обучается и здесь сам по себе процесс обучения человека и процесс обучения нейросети, они невероятно похожи. И вот тот фактор, что благодаря тому, что мы
7: В рамках обучения машины можем все полностью наблюдать. То есть мы знаем, какие мы картинки конкретно дали. Мы знаем, сколько мы на это времени потратили. Мы знаем, сколько попыток дали. Это все вместе даёт поле для таких уже спекуляций в плане того, что, а что делать.
8: Например, с правами авторов на этих изображениях обучалась это отдельный момент, то есть ещё раз. Если человек посмотрел на чьи-то работы и потом стал лучше рисовать, то у нас здесь этического момента не возникает, если вдруг мы в машине показали чьи-то изображения и научили её.
9: С помощью их изображений делать изображение лучше возникает, потому что мы можем проследить процесс и проследить результат. При этом, если мы с вами будем смотреть за тем, как происходит развитие генеративных нейросетей, которые делают изображения, они
10: И делают те же самые, на самом деле ошибки, которые делают люди, которые учатся рисовать. То есть популярная 1 время проблема с тем, что нейросети рисуют там большое количество пальцев, и в целом там плохо рисуют, например, руки, она
11: На самом деле характерный для людей. То есть люди тоже, когда учатся рисовать, плохо рисуют руки, руки рисовать невероятно тяжело. Это очень как бы сложный объект для рисования. Первоначальный уже такой немножко подзабытый, который был до этого. Проблема то, что нейросети, когда
12: Лица, они делали глаза разные. То есть у изображений были бы очень такие ассиметричные глаза. И при этом это тоже проблема, которая встречается у людей, которые учатся рисовать. То есть, да, начинающие художники тоже им сложно сделать глаза.
13: Скажем так, будто бы они от 1 человека. И вот эти все проблемы, как бы оно преодолевает как раз-таки тоже за счёт того, что больше, больше данных получает. Таким образом, мы приходим к тому, что прозрачность процесса обучения внезап.
14: Становится его как бы таким немного в каком-то смысле врагом, потому что мы видим, что как, на что влияет. И вот это прям открытый такой вопрос по поводу, с 1 стороны, в целом этики и насколько это вообще хорошо или нехорошо обучать.
15: На работах других людей. А что делать там с работами людей, которые там не согласны, или там с правами этих людей, это прям вот огромный Пласт для философов и на самом деле юристов технарям в этом плане попроще, как бы, то есть датасет есть, на нём обучается, но
16: Этический все равно момент влияет, потому что как результат, это может повлиять, да, на какие-то технические решения, например, что запретят обучать нейросети на каком-то виде контента. И, соответственно, да, это может привести к ухудшению этого самого контента, потому
17: Потому что просто чем больше данных, тем лучше результат обучения, как бы, поэтому любого такого рода ограничения они могут, да, повлиять в негативную сторону. При этом, опять же, да, там соблюдение прав людей и
18: Авторство и имущественные права на те или иные изображения оно невероятно важное. 2 же момент он связан с этическими проблемами результата генерации. Тут уже идёт речь про то, что сами по себе изобра.
19: Которые генерируется не только изображение, видео, голос и так далее, становится очень высокого качества, и это открывает огромный диапазон для создания фейков в целом, какого-то искусственного, придуманного компромата для работы.
20: Мошенников и так далее. То есть при этом, например, каких-то Разумных способов технически это ограничить, к сожалению, нету. То есть очень тяжело понять, контент создаётся, он создаётся во благо или во вред, но его конфигурация позволяет делать
21: И какие-то позитивные действия, и негативные, и с Ростом качества генерации чего угодно, да, любого мультимедиаконтента, соответственно, и применение его для каких-то негативных факт.
22: Тоже будет увеличиваться, то есть там, да, использование мошенниками, использование для каких-то там, опять же, там создания какого-то компромата на людей, это все вместе может работать. Тем более, что инструментарий становится ещё быстрее, ещё доступнее. То есть, если раньше для того, что
23: Не знаю, заменить 1 лицо на другого. На фотографии вам требовались там навыки, как минимум работа с фотошопом. Причём достаточно хорошие навыки работы с фотошопом, то сейчас вы можете просто там скорми нейросети 2 изображения получить то, что вам нужно искомое, да, то есть без каких-либо навыков тем
24: Самым доступность работы с, скажем так, негативными возможностями, которые дают нам нейросети, они открываются ещё большему количеству людей, потому что снижается требования к их экспертности в создании какого-либо контента. Таким образом, мы приходим к тому, что
25: С 1 стороны, мы не можем как-то здесь ограничивать нейросети, в том плане, что если мы будем пытаться создать какие-то искусственные ограничения, то мы в целом повлияем на все позитивное их развитие, потому что тот факт, что оно может сделать, очень
26: Детализированное изображение какого-то человека само по себе это очень важное, хорошее достижение. При этом, что за человек изображён, в каком контексте он изображён, это уже вопрос не столько технический, да, сколько опять же морально этический. И вот это сочетание даёт
27: Очень такое широкое поле тоже для спекуляций. При этом оно бывает, что да, приводит к каким-то тем или иным решениям продуктов. То есть, например, в марте 23 года очень популярной была картинка римского папы в
28: Естественно, она была сделана нейросетью, то есть это не фотография, это именно генерация, при этом портретные черты максимально угадываются, и сама генерация очень похожа на изображение, поэтому обычный человек, когда смотрит на неё, он может её воспринять за фотографию и it.
29: В свою очередь, допустим, привело к тому, что нейросеть миджорн ограничила доступ к бесплатной версии, потому что, да, как бы, типа теперь все генерации делаются людьми, которые тем или иным образом как бы отметились в системе на уровне того, что свои данные карты добавили и так далее, то есть как бы it
30: Уже немножко небольшое ограничение возникло, повлияло ли это в целом на индустрию в каком-то формате, да, но как бы, к счастью, к тому моменту уже появились там, допустим, бесплатные аналоги, которые позволяют людям тоже пользоваться вот этими самыми нейросетями и в завершении всего этого
31: Очень важный фактор, связанный с доступностью этих самых инструментов, потому что, что происходит, во первых, инструмент становится качественней, во вторых, они становятся быстрее и становятся дешевле тем,
32: Самым, что если раньше вам нужно было там платить за какой-то инструмент, сейчас вы некоторые из этих функций можете получить бесплатно в других инструментах и иметь доступ к этим самым технологиям. То есть производство мультимедиа контента очень сильно демократизируется. То есть у нас
33: Возникает ситуация, что у нас множество людей теперь могут создавать контент, тот, который они раньше не могли, изображения, музыку, что угодно. Видео какие-то. С другой стороны, это приводит к перенасыщению контента. Это тоже очень такой важный фактор, который
34: В дальнейшем нам просто придётся как-то придумывать, как решать, потому что сейчас мы, во первых, ещё даже близко не достигли того пика объёма производства контента, который может быть и его потребления. Соответственно. И это вот такой вопрос очень ближайшего будущего, за которым
35: Просто нужно будет следить и в какой-то мере, наверное, поучаствовать.