Google столкнулась с неожиданной проблемой, представив свой новый инструмент редактирования фотографий Reimagine для смартфонов Pixel 9. Функция, призванная упростить обработку изображений с помощью искусственного интеллекта, оказалась настолько мощной, что вызвала опасения у экспертов.
Reimagine, будучи продолжением развития Magic Editor, позволяет пользователям не только менять фон фотографий, но и добавлять новые объекты, используя текстовые команды. Журналисты The Verge, протестировавшие новинку, были впечатлены реалистичностью результатов — ИИ отлично справляется с подбором освещения, теней и перспективы.
Однако тут же обнаружилась и обратная сторона медали. Выяснилось, что Reimagine можно использовать для создания тревожного контента, включая сцены насилия и добавление запрещённых предметов. Журналисты смогли сгенерировать множество изображений аварий и связанных с ними сцен, обойдя установленные ограничения с помощью творческих формулировок в запросах.
Алекс Мориконе, представитель Google, попытался успокоить общественность, заявив о наличии чётких правил использования инструмента. Тем не менее, лёгкость, с которой удалось обойти эти ограничения, вызывает беспокойство.
Суть проблемы в том, что Reimagine делает сложный процесс редактирования фотографий доступным каждому владельцу нового Pixel. Теперь любой пользователь может за считанные секунды добавить на фото практически любой объект, в том числе и неприемлемый контент, нарушая правила Google.
Эксперты призывают пользователей относиться с осторожностью к фотографиям в интернете. Как отмечает Эллисон Джонсон из The Verge, было бы замечательно, если бы все использовали Reimagine только для добавления «цветов и радуг» на свои снимки, но реальность может оказаться совсем иной.
Волна фейков выйдет на новый уровень, а то и на три уровне сразу.
Походу единственный способ избежать ложных новостей - это цифровая подпись контента, по типу бухгалерских отчетностей, но всё равно, быдло в общей массе будет верить хайпу и картинкам, а не пытаться установить истину.
Думаю в ближайшие годы мы увидим много "архивных" фотографий, дабы вбивать в голову историю как надо.
Фотошоп если что был придуман еще в прошлом веке, и без цифровых подписей как-то обходимся
фотошоп требует очень прямых рук. а тут почти любой даун может сгенерить реалистичный фейк
Каждый первый васян мог зафотошопить себя в дубаях, а каждая первая Наташа наращивала себе выпуклости для инстаграмма. Какие прямые руки для этого нужны?
ну и выглядело это крайне топорно и не реалистично, по этому таких васянов и наташ тыкали носом в г*вно.
// Паша Иванов
'' Функция, призванная упростить обработку изображений с помощью искусственного интеллекта, оказалась настолько мощной, что смартфоны вырвавшись из рук пользователей и набрав сверхзвуковую скорость, стали взмывать в верхние слои стратосферы ''
Есть про это индийская документалка - "Робот 2.0"
Всегда найдутся особо одарённые, которые будут использовать инструменты ИИ для подобных вещей. Так что, теперь всех лишать удобной фишки?
Лишать не обязательно но когда такие самоделки коснутся тебя с плохим исходом тогда перейдёшь на сторону противников таких прог но от этого не убежать
Какие "самоделки", уже давно есть Фотошоп и подобные редакторы, это только упрощает редактирование для обычных людей
А ничего что это все уже давным давно можно было делать через фотошоп например с ИИ генерацией изображений. Я сто раз уже пользовался и делал и аварии и наркотики и сигареты...и всё получается реалистично. А они только сейчас напряглись??? Серьёзно? Уже существует ни одно приложение для таких вещей...проснулись, ёпта
Я думаю тут про то, что прямо со смартфона, за несколько секунд, можно это организовать, не прибегая к стороннему софту
В чем отличие? Тоже одно приложение и тоже делается по одному только запросу...
Например, какое есть для IPhone?
Потому что в пикселях стоит не просто приложение а физический ии чип а все это делается очень легко. ИИ там даже обычные фотки обрабатывает по дефолту - а ночные вообще очень круто получаются. И это еще на моем уже стареньком 7.
9 буду брать точно, хотя и цена у нас на прошку будет около 130к
Дебик реально сравнил свой пердешь в фш через комп, и то что такое можно за пару сек выдать в своем телефоне
Ля некоторые фотки прям жесть как реалистично.
Нужно просто редакторам и по принудительный водяной знак знак на каждом изображении с применением ии-обработки лепить и все. Не надо эти ограничения на содержание накладывать.
Так то оно так, только вот есть нейронки для убирания водяных знаков)
Нужны знаки вшитые, зашифрованные в изображения типа qr.. Что бы пользователь не видел, но с нужным обарудываеием считывалось, где, кто и на каком смарте сделал
мне кажется такое не будет иметь смысла т.к. после сжатия изображения там уже будет не видно этих пикселей
А фото с дорогой мне понравилось, была дыра и нет дыры , и на верх отправляется такая фотка. Ну, а деньги на ремонт в карман))
Как хорошо рекламу под статью замаскировали. Не догадаться...
Но если не реклама то новость из раздела, изобрели молоток для забивания гвоздей однако эксперты опасаются что его будут использовать для убийства. Вывод конечно же всё запретить и не жить.
Любая статья про новый ИИ считай реклама, не вижу ничего плохого, пусть развиваются.
Что характерно, в той же Британии именно так и поступают, запрещая продажу инструментов и кухонной утвари несовершеннолетним.
отличный повод купить гугл пиксель )
радугу им в рот
Уже пару лет как не верю глазам своим, просматривая фото в интернете, особенно в политических новостях. Скоро и с видео будет тоже самое.
Почему генератор изображения упорно называют "ИИ"? Для меня это загадка.
Потому, что в нём используются технологии с обучением нейросети, а не тупо генератор.
Скачал несколько картинок, у меня сегодня компютер изучил что то новое.
Не компьютер изучил а нейросеть которая на нём изучила во время обучения. А когда скачал она уже обученная.
У тебя компьютер работает как обучающаяся нейросеть? Или всё же как обычный компьютер? Тогда ничего он не изучил.
Маркетинг же
// Rj Danil
хотите получать только правдивые новости - купите подписку лохи!
Ну с вертолём явно шляпа, как будто в воду воткнулся, остальные норм фотки.
Уже давно такое есть на телефонах
Берём фотку, выделяем область, пишем что хотим увидеть
Вуаля
Ох, эта, реальность, несколько недель назад рукожопы крашнули кучу систем новым "патчем", чувак выпустил фото-жабу, и куча лохов в это поверили.
Ну теперь американскому и русскому правительству будет проще делать фейковые фотки в которые все "свято верят".
Зачем цензурировать если это можно было и в ручную сделать в фотошопе?
Кретины. Все бы цензурировать, да контроллировать. Больше в голове ничего нет.
Это ж чем они думали, что просто убрали такую цензуру по максимуму?
А минусы будут?
Не нужно что либо запрещать людям в этом мире, нужно делать людей более умными чтоб не было в мире хаоса и беззакония, и что бы всё делалось воблаго цивилизации, не превращайте свободный прекрасный мир в концлагерь, вон посмотрите на то как безуспешно делают это другие, и от этого страдает и рушится весь мир, технологическое развитие это прерасно, но проблема что очень много тYпых людишек, которые будут использовать прогресс в целях регресса, только умная цивилизация будет жить по умному, тупая же будет жить по тYпому, просто задайте каждый себе вопрос чего вы хотите, и вы поймёте кто вы есть на самом деле, а если не поймёте то и выводы делать вам не получится, вы просто вредитель этого мира!
"только умная цивилизация будет жить по умному, тупая же будет жить по тYпому" -
Понимание и есть вывод, исходя из твоего текста. Романтично, но не в тему.