CC
开放超大规模

Common Crawl

大规模开放网页抓取语料,常用于搜索、语言与网络研究。

commoncrawl.org

Common Crawl是什么?

大规模开放网页抓取语料,常用于搜索、语言与网络研究。

Common Crawl属于“AI 与机器学习”类数据资源。大数据123收录它,是为了帮助用户先了解这个网站适合解决什么问题,再前往原站检索或下载数据。

适合用来做什么

  • ✓寻找机器学习训练集与评测基准
  • ✓发现文本、图像、音频和多模态数据
  • ✓接入云端或开源 AI 数据工作流

主要特点

资源类型AI 与机器学习
内容标签网页语料、大模型、开放
站点属性开放、超大规模
链接情况可正常访问

使用前请注意

数据口径、授权方式、下载限制和更新时间以 commoncrawl.org 的官方说明为准。用于论文、报告或商业项目时,请核对许可协议并按要求注明来源;部分数据可能需要注册账号或申请权限。

同类数据网站

查看全部