Задать вопрос
@pavelberg
php

Есть ли система, способная разпознавать и блокировать нецензурные фотки при их загрузке на сайт?

Есть сайт объявлений недвижимости.
Юзеры свободно загружают фотки. Админа нет, проверка не ведется, то есть гипотетически кто-то может поставить нецензурную фотку и она появится в каталоге. Возможно ли на лету использовать какой-то плагин или инструмент, который распознает загружаемые фотки и проверяет их на элемент ну хотя-бы пошлятины?
  • Вопрос задан
  • 2680 просмотров
2 комментария
Подписаться 22 Оценить 2 комментария
Решения вопроса 3
dimonchik2013
@dimonchik2013
non progredi est regredi
"nudity detect" поищите, есть под разные языки, например
www.patrick-wied.at/static/nudejs
Ответ написан
1 комментарий
1 комментарий
xmoonlight
@xmoonlight
https://sitecoder.blogspot.com
Если просто делать:
1. Ищем цветовые диапазоны и замкнутые области (с площадью не менее заданных) кожных оттенков на фото.
2. При превышении порога - считаем, что там изображено обнажённое тело.

Если делать правильно:
Используем контурную и цветовую сегментацию изображения и нейросеть с последующим постепенным обучением: где пристойные фото, а где - нет.

На первое время (пока возможны ложные срабатывания, т.к. нейросеть еще недостаточно обучена) самым активным пользователям можно выдать права голосования при успешном прохождении фильтра.

Проценты диапазонов пристойного изображения (при количестве голосовавших >=5):
1. От 0-33% - отсеиваем
2. От 34-66% (включительно!) и проголосовали ВСЕ, кто может голосовать -> на модерацию администратору (этот случай очень редкий)
3. От 67% и более -> пропускаем (изображение нормальное)
Ответ написан
4 комментария
4 комментария
donflash
@donflash
Совсем недавно вышел сервис от гугла
https://cloud.google.com/vision/

Посмотрите раздел "Detect Inappropriate Content"
Ответ написан
Комментировать
Комментировать
Пригласить эксперта
Ответы на вопрос 6
anthtml
@anthtml
Системный администратор программист радиолюбитель
Автоматически никак, т.к. на любую гайку найдется болт с обратной резьбой. Проще всего и выгоднее посадить модератора, который будет просто прощелкивать объявления с фотками в пре-модерации, если объемы большие то зарегистрированных пользователей имеющих хорошую карму можно наделить автомодерацией, а новичков желательно вручную. Тем более найти модератора на такую задачу не составит труда.
Ответ написан
2 комментария
2 комментария
trevoga_su
@trevoga_su
сайт о недвижимости. кому там фотки понадобится такие выставлять?

есть сайт веселый, фотострана. там картинке на облаке хранятся.
количество извращенцев и любительского ню в альбомах зашкаливает
они там спасаются модерацией, но альбомы модерируют лишь те, которые публичные. в приватные альбомы можно что угодно грузить и девочки грузят.

Далее, ни один алгоритм не даст 100% гарантии. Попробуйте поискать вот эту картинку в Гугле. Даже гугл ошибется и выдаст мужской торс и лицо, сказав что эти фото похожи на эти сиськи.
Ответ написан
Комментировать
Комментировать
@LiguidCool
Одно из самых простых и малозатратных решений - кнопка "сообщить о спаме". Просто пользователи могут не только пошлятину заливать, но и котиков например.
Ну а вообще подобный сайт без модерации ИМХО плохая идея.
Ответ написан
Комментировать
Комментировать
Alexey_Suprun
@Alexey_Suprun
Web Developer Blog - ссылка в описании
nudity detect лучший но все равно что то да и будет пролазить
Ответ написан
Комментировать
Комментировать
@liks
Можно сделать как описывает dimonchik2013 ,настроить в ней самое жесткое фильтрование, а на неоднозначные или неподдающиеся классификации картинки посадить модера, так, как описал это AntHTML ,а если всё таки проскочит такая картинка к пользователям, то первому пользователю обнаружившему такую картинку давать +1 к чему-то, которые можно обменять на плюшки в Вашем сайте, ну и ввести ачивки можно...
Ответ написан
Комментировать
Комментировать
LightAir
@LightAir
LA
Для этих целей можно использовать нейронную сеть.
https://habrahabr.ru/post/158729/
Ответ написан
Комментировать
Комментировать
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы
Вакансии с Хабр Карьеры
PHP разработчик
Ведисофт • Екатеринбург
от 25 000 ₽
PHP-разработчик
M-Social Production • Брянск
от 70 000 ₽
PHP Developer
YCLIENTS • Москва
от 200 000 до 350 000 ₽
Ещё вакансии
Заказы с Хабр Фриланса
Расработка Парсер для сайта https://soliq.uz/activities/debtor
19 апр. 2024, в 19:51
3000 руб./за проект
Два скрипта, Python, web3.py, вызов функции смарт-конракта
19 апр. 2024, в 19:47
50000 руб./за проект
Сделать дизайн главной страницы сайта
19 апр. 2024, в 19:17
1500 руб./за проект
Ещё заказы