shaoheshaohe 发表于 2019-2-17 19:33:07

上班时间请勿打开,158万张鉴黄图片数据集来喽~

前方高能预警,非战斗人士请火速撤离……
今天给大家介绍一个在 GitHub 上一个开源的鉴黄图像数据集,它拥有 158万的数据量,叫做 NSFW data source URLs,目前该项目已收获 918 star 了。
项目地址:https://github.com/EBazarov/nsfw_data_source_urls在 raw_data 文件夹里,可以找到不同的 .txt 格式的文档,每个文档都含有一组 URL,以下是关于该数据集的一些统计信息:

[*]159个 不同的类别
[*]158.9331 万个 URL
[*]下载并清洗后大约有 500GB,或者说有 130 万张 NSFW 图像

以下为项目中图片截图示例:

注意事项:
1. 建议下载后清洗下数据集,例如:

[*]删除重复图片
[*]移动被禁止/删除掉的图片(它们有一个特殊的图像占位符)
[*]找出损坏的数据并将其删除

2. 注意噪声,一些资源提供了 NSFW 和中性图像的高度混合数据。
3. 该库还可以帮助检索 NSFW 图像,针对中性图像没有专用的 URL。
值得一提的是,在该项目之前还有一个类似的开源项目 nsfw_data_scrapper,里面有 22 万张图像,同样也可以用来检测或训练鉴黄系统。
项目地址:https://github.com/alexkimxyz/nsfw_data_scrapper


Happy清子 发表于 2019-3-24 10:59:34

这个里面
很多确实可以下载

Happy清子 发表于 2019-3-24 10:59:50

污的很

Happy清子 发表于 2019-3-24 10:59:57

辛苦作者收集啊

Happy清子 发表于 2019-3-24 11:00:06

值得深入研究的数据集

Happy清子 发表于 2019-3-24 11:00:10

大有用途
页: [1]
查看完整版本: 上班时间请勿打开,158万张鉴黄图片数据集来喽~