The European Parliament has passed a law regulating the use of artificial intelligence. According to it, AI-based technologies will be assigned a risk category ranging from low to unacceptable. This is the world's first such initiative, as noted by the media. According to official information, 523 members of parliament voted for the law, 46 were against, and 49 abstained. CNBC notes that this is the first such "set of rules" of this scale.
The European Parliament's message highlights that the aim of this initiative is to protect fundamental rights, democracy, the rule of law, and environmental sustainability from risks associated with the use of high-tech artificial intelligence. It is also aimed at stimulating innovation and confirming Europe's leadership in this area.
Technologies based on artificial intelligence will be classified according to the level of risk, for example, the classification of "unacceptable" will lead to a ban on usage, while there will also be categories of "high," "medium," and "low" risk, each with varying levels of restrictions. Prohibited technologies include real-time facial recognition, emotion analysis in workplaces and schools, social scoring, as well as AI technologies that manipulate human behavior or exploit vulnerabilities, as reported by the European Parliament.
General-purpose artificial intelligence systems (GPAI) will be required to meet specific transparency requirements. All images, audio, and video processed using AI (including "deepfakes") must be appropriately labeled.
The bill must also be approved by the European Council. It is expected to come into effect at the end of May, according to CNBC. Roberta Metsola, President of the European Parliament, noted that the new law fosters innovation while simultaneously protecting the fundamental rights of EU citizens. "Artificial intelligence has already become an important part of our daily lives. Now its activities will be regulated by law," she emphasized (quote from CNBC).
И как это все будет стимулировать лидерство Европы в этой области? Потому-что по идее если какой-нибудь Китай не будет заморачиваться такой фигней, то он получит очень неплохое преимущество. Это как с изобретениями. Можно взять какое-то устройство, в котором дофига всяких решений используется и платить отчисления (а автор может и запретить вообще использование своего изобретения, если захочет, или взять сумму с потолка). И ты сидишь такой, и не можешь просто начать делать продукт, потому-что он защищен миллионом всяких патентов. А китаец какой-нибудь просто берет и делает, было бы желание, и экономику поднимет.
Я не то что призываю нарушать авторские права, но в целом если есть на рынке два игрока и один старается соблюдать их, а другой нет, то у второго неплохое такое преимущество, и скоро может возникнуть обратная ситуация, что первый погряз в своих условностях и не может ничего нормального производить, кроме ряда крупных монополий, а второй делает что хочет и его ничего не тормозит. И если сейчас ЕС обрежет себе еще и выгоды от использования ИИ, то с учетом современной тенденции развития данной технологии может через лет 10 оказатся что в китае все ИИ производит автоматически с очень большой скоростью, включая научные исследования (биология, физика, промышленность) а в ЕС дизайнеры, программисты и ученые делают все руками, как в каменном веке ))
Не думаю, что этот закон касается графики и художников, скорее применения ИИ в социуме.
Да все просто, они первые кто начал задумываться об опасности и пытаться регулировать, вот они и первые.
И хаос на территории страны, когда радикалы будут использовать ИИ для дискредитации и прочего, на подходе ИИ саботаж и террор.
Там же про другое, про дипфейки, технологии определения эмоций в реальном времени и т.д. Они за реально опасные вещи говорят, а не за графику. Эти законы защищать будут не от безработицы, сокращений, ухудшения условий труда и з/п, а от реально опасных вещей.
Очень неоднозначная формулировка, согласитесь. Тут под это дело можно кого угодно захомутать в темницу, при желании.
Но пока это вектор - о намерениях. Мол не думайте, что мы не понимаем ситуацию, мы видим уже сейчас, что применения этой технологии есть свои "недостатки" и мы не дремлем )
Ну есть же законы об оружии, ответственности, применении, какая-то база. Она нужна и по ИИ.
Я вот о чем.
Я уже давно решил для себя принять принцип "не видел лично – ставь под сомнение", даже если видел лично, то это может показаться не тем чем кажется.
И многие ли откажутся от высокого звания "родоначальник стиля" если его копирование будет запрещено законодательно?
Да и сам художник вряд ли всегда сознательно выбирает стиль. Он просто пишет картину, а уж куда её "классифицируют" его волнует в меньшей степени.
Можно сказать, что художники как бы учатся на картинах, но это именно что учёба, а не тупое копирование. То есть ты видишь и пытаешься повторить, и можно много дискутировать, что нейронки делают тоже самое. только по другому.
Но вопрос в том, что нейронка в принципе обучается на существующих картинах (картинках) а художник может научится рисовать - не видя никогда в живую ни одну картину. Просто поняв как работать с кистями, холстами, красками и т.п. и смотря на природу и окружающий мир и пытаясь передать его на холсте "своими словами".
Я думаю подход в этом. Художнику не нужно смотреть (копировать) картины чтобы научиться писать. А нейросеть в её нынешнем виде "обучается" только путём копирования и обработки уже существующих картин.
Пожалуйста - выведите нейронку "в поле" дайте ей 100500 камер, объясните "научите" работать с красками, и скажите - твори. Фиг что получиться как мне кажется. ))
Назовите критерии уникальности)
И проблема совсем не в ней. В том, что касается картин, то ИИ обучается только используя чужие работы. Человек нет. Вы можете доказать, что какой то художник "срисовал" картину с другой картины, а не взял ее из головы? Сомневаюсь. А в случае с ИИ и доказывать не нужно, они и сами об этом пишут, объясняя механизмы обучения.
Нет механизма обучения рисованию ИИ где он смотрит на мир и воссоздаёт его в картине. Как это сделать без проблем с авторством, я описал выше, но сомневаюсь, что кто то будет этим заниматься)
Человек обучается ТОЛЬКО на чужих работах. Единственное различие - наличие мотивации. Т.е. ИИ нужно дать команду нарисовать, а человек испытвает в этом "духовную" потребность. Вы рисуете свои первые картики водя детскими карандашами по бумаге и стараетесь чтобы было похоже на то что иозбражаете. Сначала у вас вообще ничего не получается. Потом вы решаете использовать какие-то другие способы, другое положение карандаша, другой цвет карандаша. Сравниваете с примером, вам нравиться или не нравиться. Повторяете процесс. Ребенку обычно нравяться и простые каляки-маляки, так как у него просто отсутствует опыт восприятия более сложных и реалистичных произведений.
Когда идете в художественную школу, вам реально дают нужную технику, как мешать краски чтобы получить нужный цвет, как делать построения, чтобы форма была похожая, ставят вам натюрморт, и вы его рисуете использую данные вам знания. Потом преподаватель смотрит на вашу работу и говорит "хорошо" или "плохо". И говорит вам как сделать чтобы было лучше, т.е. выполняет функциию оценки, по сути тренирует вас по своему некоему идеальному шаблону. Вы уже и сами способны в этом возрасте обучаться, потому-что вам показали как сравнивать пропорции, как сравнивать тон и оттенок, т.е. дали вам инструменты. С нуля у вас их не было.
Далее. Вы научились рисовать. Можете написать натюрморт красками. Следующий этап будет - обучение стилю. Вы смотрите на свои работы, вам что-то нравиться или не нравиться. Здесь вашим преподавателем который дает оценку являетесь уже вы сами на основании своего опыта. Возможно у вас резкий темперамент, и именно поэтому вы не любите писать лессировками, а предпочитаете "алла прима" чтоб за два часа работу закончить. А возможно вы перфекционист, вам нравиться реализм и вы делаете все наоборот. Вы пробуете разные техники и в результате проб и ошибок отбираете те, которые помогают вам реализовать вашу задачу так как вам это кажется (а это все ваш предыдущий жизненный опыт). Пробуете разные техники, инструменты, разные стили (вот нравиться мне как там у Ван Гога было, тоже попробую цвета взять вырвиглазные). И в результате комбинации приобретенных вами знаний вы начинете работать тем или иным способом. Процесс этот иттеративный, как и при обучении ИИ. И вы сами выступаете своим критиком а также окружающие вас люди (если у вас есть способность переваривать критику других людей).
В следующий раз вы можете попробовать написать например кожу людей красным, а фон зеленым, ну просто краска у вас закончилась возможно, или вы решили провести такой эксперимент "что будет если". И вот вдруг вам и окружающим понравилось. Поздравляю, вы основоположник нового стиля )))
Чем отличается текущая нейросеть от вас? Ну пока единственное различие в том, что это (в примерах с генераторами текстов и картинок) статическая модель, ее "случаность" обеспечивается генератором случайных чисел, и ее нужно обучать внешними средствами и дообучать, если вы хотите получать другие результаты. И в принципе то не проблема вообще, дообучить. В инетах вон дообучают, на любой нужный стиль, и если получалсь даже случайно какая-то забавная фигня, можно использовать это в качестве входа в режиме img2img и наслаждаться новым стилем.
Но вот когда она способна будет учиться "на лету" (когда будут доступны такие ресурсы), тогда будет другой разговор. Да, это не сейчас. Но к примеру посмотрите видео:
Учитывая что это статичная, заранее обученная модель, не способная себя изменять (кроме как возможности обращаться к ограниченному по объему входному буферу вашего диалога), это уже довольно интересно и для большинства задач которые сейчас закрывают дизайнеры, писатели уже более чем достаточно. У нас вон на рабоде пришла девочка, 19 лет, на дизайнера )). Дали ей нейросетку и она уже делает такое качество, на что у нее бы несколько лет обучения бы ушло. А пока эти несколько лет пройдут, нейросети будут в разы лучше чем то, чему она научилась, и опять их не догнать.
Проблема в том что нейросети, по крайней мере развиваются БЫСТРЕЕ любого человека, пусть самого гениального. И если использовать только диалоговый режим, они вполне способны показывать такой же уровень, который наблюдается у среднего человека. Через 5 лет это будет уровень умного человека, через 10 - гения. Но количество гениев-людей не измениться, а нейросеть можно просто скопирвать сколько угодно раз...
Или вот: https://openai.com/gpt-4 Посмотрите примеры.
Не правда, человек начал рисовать ещё до всяких школ и т.п. наскальная живопись первобытных людей вам в помощью. ) А дальше совершенствовались только инструменты, и общий интеллект, как процесс восприятия мира вокруг.
Образно говоря, когда ребенок размазывает какашку на асфальте палкой, и потом долго разглядывает получившийся результат, то он тоже рисует)
И ещё раз, не важно как и что копируют современный худижники, важно что вы сможете доказать в суде.
На данный момент все генеративные ИИ создающие картины строят свое обучение на картинках в инете, в т.ч. тех, которые для этих целей использовать не разрешали. Смотреть можно, восхищаться или плакать тоже, но не более..)
Не даром многие фотостоки ввели доп. вознаграждение, если продавец разрешает использовать свои работы для обучения ИИ. Значит назрело.
Неправда, первые линии скорее всего получились случайно. Чиркнул древний человек угольком по стенке, вышла линия. Ему стало по приколу рисовать палочки углем на стене. Другой стоял рядом и начал рисовать такие-же линии, чтобы тоже быть уважаемым креативным членом общества но они у него получались не совсем прямые с загогулинками, и все решили что это очень похоже на копье. Третий стоял рядом и подумал что раз можно иозбразить копье, то можно как-то изобразить и мамонта в который это копье попало. Рисовал всякую мульку, и случайно получилось что-то продолговатое, в целом похожее на мамонта. Четвертый стоял и смотрел на это безобразие, но ему не нравилось что у мамонта нет ног, он тоже захотел стать уважаемым и креативным и начал подрисовывать снизу к этой картофелене палочки. Народ был в восторге, все заценили, хлопали их по плечу и одобрительно скалились.
Далее к ним пришел древний человек из другого племени и вождь такой гордо показал что типа "смори что мы тут удумали, круто, правда?". Тот был под впечатлением, пошел в свою пещеру и рассказал своим что там такое, возможно попробовал тоже изобразить. У него вышло чуть по другому, он забыл что надо снизу рисовать тонки палочки и нарисовал вместо них жирные палочки, стал основоположником нового стиля....
Десятый, сравния мамонта с тем что уже привыкли изображать в пещерах понял что не хватает хвоста, двадцатый дорисовал хобот, сотый понял что можно не только мамонта рисовать, но и охотника, или там антилопу. Через 1000 иттераций у него полуичлось и он тоже стал кважаемым креативным членом общества.
Многие художники не хотят чтобы их работы оцифровывались. Но вы можете возразить, что человек точно также оцифровывает данные когда просто смотрит, только у него процесс не чисто цифровой, а биологическо-цифровой, поэтому это тоже самое. Так можно спорить до бесконечности)
Во-первых, не я перешл на филосфствования, а вы, начали что-то придумывать. Я скорее для смеха придумал вам контрагумент.
Во-вторых, скоро оцифровывать ничего не нужно будет. Когда модели научатся сами генерировать уникальный стили живописи. Это не так сложно как кажется, просто именно этому пока их никто не обучал. Любая живопись в цифровом виде - набор пикселей. Сказать чтобы "вот тут давай зелененьким", "а давай чтобы вместо глаз рты были" или "давай по краям размоем, а в середине чтоб было четко", "и такие полупрозрачные треугольники чтобы были через всю картинк", "ок, так хорошо, сохрани как Новый стиль и создай мне в таком же стиле еще 100 работ". Ниакой принципиальной сложности в этом нет вообще. Хоть по пикселям описывайте новый стиль, поверьте нейросеть уже сейчас способна "понимать такие вещи". Так что для создания стилей скоро и человек не нужен будет, так как все эти стили вполне можно описать словами. Не верите, попробуйте сами взять картину и "найдите 10 различий" изложите в виде пунктов. Вы удивитесь, но это не сложно сделать. Всякие слова про "высокий полет духа", "послание бога людям" - чушь придуманная для самоуспокоения...
Ещё раз. Человеку не нужно скармливать картинки чтобы рисовать. Ребёнок в дет. саду рисует не копируя картины художников. Он рисует то, что видит вокруг. Сначала делает это плохо, а по мере взросления всё лучше и лучше. Но не потому что он дорвался до сотен тысяч картинок, или его начали обучать "мастера" живописи, а потому что он развился сам, и развил навыки свои навыки в т.ч. изучая окружающий мир.
Нейросети рисующие картины ничего не знают об окружающим мире. Если нужного объекта не было в обучении, они никогда его не нарисуют. Поэтому "навыки" любой нейросети - ограничены количеством и содержанием скормленного ей контента.
Это всё равно, что сказать художнику, что чем больше он картин увидит, тем лучше он будет рисовать. Но у людей это так не работает. Человек совершенствует свой "алгоритм" (навыки), а не пытается увидить все возможные варианты сочетания цветов и форм в мире, тем самым в нужный момент извлекая и собирая их в правильные формы.
Ну самому процессу рисования его все же обучили. А наблюдение за реальным миром - это и есть вскармливание картинками в жанре фотореализма
Так дайте нейросетям "глаза и уши", "вскармливайте" их картинками и звуками путём наблюдения за окружающим миром. Можете их обучать на этом материале как угодно и к вам не будет никаких вопросов по поводу авторства)
Давайте так. Для начала нельзя просто копировать что-то, потому что так хочется. Вы не можете прийти в книжный магазин и начать снимать книгу на телефон страница за страницей. Вы скажете, что глазами делайте так-же - но снимать содержание книги на любой носитель вам не разрешат, а вот смотреть глазами - можно. Так-же как и например нельзя снимать в кинотеатре фильм.
Не знаю как в РФ, но в РБ это сторого запрещено и даже плашка о запрете видео-аудио записи перед фильмами показывают. И пофиг что вы снимая на камеру, "по сути делаете тоже самое" как когда смотрите своими глазами. Сами смотрите,но записывать на носитель, а уж тем более использовать снятое для других целей - нельзя, если это не предусмотрено договором с автором, или лицензией.
В общем принципе - всё что созданно человеком и является его продуктом творчества, нельзя использовать без его разрешения или как минимум без указания кто автор.
Почитайте статью, там много полезной инфы: Соблюдение авторских прав в интернете
Защита авторских прав порой вообще доходит до маразма. У знакомого фб прислал сообщение с требованием удалить из выложенного пол-года назад видео, где он заходит в Итальяский костёл и там играет орган. Всё потому, что сони-мьюзик увидел в этом нарушение авторсиких прав на музыку звучащую в видео. И это не наложенный трек - это мелодия из живой записи на заднем плане.. .
Мне кажется это максимально слабый аргумент) Как вы докажете что нейронка обучалась на чужих работах?) А просто какие-то там этические нормы никогда не смогут стать препятствием между бизнесом и бабками. Другой вопрос в том что эта нейронка в реальности может, а что понапридумывала разыгравшаяся фантазия особенно впечатлительных людей).
Могут в принципе обязать нейросети предоставлять данные об обучающем наборе данных, чтобы исключить любые возможные нарушения авторских прав. Тут речь потенциально о миллиардных исках, а не в морали. На западе на этом зарабатывают огромные деньги. И там "закопаны" такие суммы, что глупо не пытаться заработать на том, чтобы нейронки отстёгивали за отсутствие этих самых миллирдных исков )
Это наивно. Даже если когда-то и появятся подобные законы, всегда найдется миллиард способов как их обойти, начиная от мутных пользовательских соглашений и заканчивая тупым отрицанием. А поймать за руку в таких вопросах это задача мягко говоря не тривиальная. Не, законы это не варик. Единственный реальный предохранитель от нейронок - это ее возможности в продакшене. Не хайп трилиардных компаний, которые кормятся от этого, не фантазии мамкиных аналитиков, а реальные возможности самой нейронки. Если она чегото не может, то она не может, а все остальное типа законов, морали, таланта и т.д. - это все не серьезно.
Наивная позиция это как раз думать в парадигме "не пойман не вор". Достаточно одного "обиженного" бывшего сотрудника, который приоткроет завесу того, что компания обучалась на наборе, на который у неё небыло прав, и потенциально она может пойти в разнос, из-за того что эти данные в той или иной части использовались при генерации миллионов картинок или текстов, а с каждой такой генерации по общему принципу защиты АП полагается вознаграждение или штраф.
Вы действительно думаете что большие компании не будут из за этого заморачиваться только потому что они такие большие и "им пофиг", ведь никто ничего не докажет? Ну ок.)
Тут думали, что с генерацией картинок стоки вымрут. А как по мне так именно сейчас как раз стоки будут на подъёме из-за того что они с развитием ИИ единственные, кто может "безопасно" предоставлять большие массивы данных для обучения. По крайней мере на начальном этапе.
Это так не работает
например человеческий детёныш отданный волкам на воспитание, не станет повзрослев умным человеком)
пример хромает) но возможно кто то всё таки поймёт, что нет никакой эволюции и случайностей практически не бывает.
Но вообще, да, я совсем про другое немного)
а что это кого то останавливает от убийства, не смешите, что изменится то? все в подполье уйдут и всё также будет развивается, но проблема в том что в этом случае точно хрен кого отследишь. А про Китай да я соглашусь если у них не будет таких законов, то у них то как раз и будут прорывы и в технологиях и других сферах.
за всеми уже давным давно везде следят. не обманывайтесь!
Конечно не станет. Потому-что основа мышления и развитие мозга (обучение) закладывается в детском возрате, на этапе формирования. А если какие-то участки там не смогли сформироваться то уже получаем неполноценную систему.
Представьте что вы начали строить деревянный дом, а потом, когда уже фундамент построен с расчетом на дерево, вам захотелось каменный двухэтажный особняк. А фундамент уже все, нельзя снять никак. Ну вы можете как-то постараться на распорочках, на столбиках постараться, но ничего хорошего у вас не выйдет.
Как кого это останавливает от убийства? Да оружие недоступно для 97% населения в этой стране, если бы у нас каждый мог позволить себе ствол, да еще и настоящий, у нас бы по пьяной лавочке, на парковке, заправке и других бытовых местах, вместо того, чтобы поругаться или набить морду, устраивали бы перестрелку. Так что еще как останавливает.
Когда вы уже научитесь читать, то что пишут до конца, а уже потом комментировать? Васе, Пете, Сереже запретят использовать нейронки для каких-то критических вещей, как-то это будут контролировать и наказывать, но на уровне правительства и корпораций это конечно же не остановить и все будет развиваться в меру своих возможностей во всех странах, но это невероятно сократит число нарушений бытовых, когда ваш сосед сгенерировал видео, где вы приставали к ребенку в подъезде и вас не разбираясь посадили на 15 лет и прочих прелестей.
Какое количество дезинформации удастся прекратить или хотя бы частично контролировать? Когда люди будут генерировать лица родственников и звонить по вотсапу вашей маме от имени вас, вашим голосом, говорить что вас захватили в заложники или посадят в тюрьму и нужно срочно перевести деньги на какой-то счет, сейчас на уровне голоса прокатывает, а что будет когда технологии подрастут и будут доступны всем и каждому?
Когда каждый школьник сможет выложить сгенерированные непристойные фото учителя который ему не нравится и их будут без разбору увольнять или просто со всех сторон будут давить на них выкладывая во всех источниках фотореалистичный непристойный контент с ним?
Вы отдаете себе отчет какая чудовищная бездна открывается если не пытаться ее контролировать? Может быть это уже бесполезно, но то что люди хотя бы задумываются над проблемой уже хорошо.
Вот опять...кто следит? Правительство? Корпорации? Да пусть следят, на это не повлиять. А что будет когда кто угодно сможет следить за вами, вам это надо? Опасные технологии не должны быть легкодоступны. Мы не можем легко купить оружие, токсины, уран, танк, истребитель, потому что это опасно.
не надо ставить вопросительных знаков. просто запятые!
то есть в америке любой желающий не может себе оружия купить, я не говорю про какую то зимбаве, где калашь через раз у каждого или афганистан, а кому надо, достают и покупаю, просто вопрос для чего??? все что вы перечислили телефонный терроризм и шантаж и тд и тп, это все и так наказывается и статьи закона тоже есть, это уже является правонарушением, а сам инструмент, так на листке тоже можно написать и на лоб приклеить и что дальше, запретим бумагу с ручкой, потому что это инструмент, или может быть интернет сразу запретим, что уж мелочится то, правда ведь!
Не надо предложение начинать с маленькой буквы, а вопросительные нужны, так как это отдельные вопросы и каждый я хочу задать именно вот в такой форме, с паузой.
Официально любой не может, для этого как минимум нужно иметь определенные документы, а для открытого оружия нужна лицензия, НО! Америка это отдельный случай, у них право ношения оружия было с самого основания страны, это норма там, так как оружие у всех, это другая ментальность. Например в Канаде такого нет, там сложные лицензии, да нигде в общем и целом такого как там нет, но опять же, США тонут в преступности, есть районы где вообще нет полиции, они полностью захвачены бандами, есть мертвые города, которые также захвачены бандами — Детройт например. В зависимости от штата, ситуация может быть чудовищной, вот обратная сторона свободы оружия, открытой миграционной политики.
Вы передергиваете, прекратите этим заниматься и начните думать. Да, это запрещено законом, но никогда еще это не было так легко и общедоступно как сейчас станет, именно нейросети дадут такой мощный, легкий и доступный инструмент, преступность вырастет с тысячи раз из-за него, никакие инструменты прошлого не давали такой власти и возможностей.
И ради бога, научитесь разделять понятия запретить и регулировать. ПДД регулируют поведение на дорогах и да, они запрещают многие вещи, ради того, чтобы движение людей по дорогам на их транспортных средствах было возможно, оно не запрещает машины, не запрещает ездить (несмотря на то, что это безусловно опасно), оно регулирует и частично ограничивает — скорость, езду по встречной, задает приоритеты, кто сейчас может ехать, а кто не может.
Хватит видеть только черное и белое, или вседозволенность или давайте все запретим. Всему нужна регуляция и безопасное использование.
Ощущение что я с глобалистом каким то разговариваю, который топит за зеленое будущее, игнорируя углеводороды )) смешно!
А злого умысла холерного эмбриона нужно бояться?
Ну замечательно, аргументы закончились, попал в тупик и начал сливаться...не смешно это, а грустно.
Причем тут глобализм, говорим о элементарных вещах, очевидных и работающих уже сейчас, о том, что они станут еще опаснее и нужен хоть какой-то контроль, грустно от такой неспособности видеть дальше своего носа. (