xurlfind3r是一款功能强大的URL地址查询工具,该工具本质上是一个CLI命令行工具,可以帮助广大研究人员从多种在线源来查询目标域名的已知URL地址。

创新互联公司长期为数千家客户提供的网站建设服务,团队从业经验10年,关注不同地域、不同群体,并针对不同对象提供差异化的产品和服务;打造开放共赢平台,与合作伙伴共同营造健康的互联网生态环境。为夏津企业提供专业的成都网站设计、成都网站制作,夏津网站改版等技术服务。拥有10多年丰富建站经验和众多成功案例,为您定制开发。
1、从被动在线源获取URL地址以实现最大数量结果获取;
2、支持从Wayback网页和robots.txt快照解析URL地址;
3、支持URL匹配和过滤;
4、支持stdin和stdout已实现轻松跟工作流整合;
5、跨平台支持,支持Windows、Linux和macOS;
AlienVault's OTX
BeVigil
Common Crawl
Github
Intelligence X
URLScan
Wayback Machine
广大研究人员可以直接访问该项目的【Releases页面】下载和安装对应操作系统和架构的发布版本代码。
或者也可以使用wget或curl命令行工具来下载和安装xurlfind3r:
wget https://github.com/hueristiq/xurlfind3r/releases/download/v/xurlfind3r--linux-amd64.tar.gz  或
curl -OL https://github.com/hueristiq/xurlfind3r/releases/download/v/xurlfind3r--linux-amd64.tar.gz  然后提取代码即可:
tar xf xurlfind3r--linux-amd64.tar.gz 别忘了将xurlfind3r代码拷贝到PATH路径下,比如说:
sudo mv xurlfind3r /usr/local/bin/首先,我们需要在本地设备上安装并配置好最新版本的Go语言环境。接下来,使用go install命令下载该工具即可:
go install -v github.com/hueristiq/xurlfind3r/cmd/xurlfind3r@latest除此之外,我们也可以先将项目源码克隆至本地:
git clone https://github.com/hueristiq/xurlfind3r.git然后构建工具:
cd xurlfind3r/cmd/xurlfind3r && \
 go build .在使用该工具之前,我们还需要配置相应的API密钥,配置文件为config.yaml:
version: 0.3.0
sources:
    - bevigil
    - commoncrawl
    - github
    - intelx
    - otx
    - urlscan
    - wayback
keys:
    bevigil:
        - awA5nvpKU3N8ygkZ
    github:
        - d23a554bbc1aabb208c9acfbd2dd41ce7fc9db39
        - asdsd54bbc1aabb208c9acfbd2dd41ce7fc9db39
    intelx:
        - 2.intelx.io:00000000-0000-0000-0000-000000000000
    urlscan:
        - d4c85d34-e425-446e-d4ab-f5a3412acbe8-h参数可以直接查看工具的帮助选项:
xurlfind3r -h帮助信息如下:
_  __ _           _ _____      
__  ___   _ _ __| |/ _(_)_ __   __| |___ / _ __
\ \/ / | | | '__| | |_| | '_ \ / _` | |_ \| '__|
 >  <| |_| | |  | |  _| | | | | (_| |___) | |
/_/\_\\__,_|_|  |_|_| |_|_| |_|\__,_|____/|_| v0.3.0
 
USAGE:
  xurlfind3r [OPTIONS]
 
INPUT:
 -d, --domain string[]              设置目标域名
 -l, --list string                    目标域名的列表文件路径
 
SCOPE:
     --include-subdomains bool       匹配子域名URL
 
SOURCES:
      --sources bool                 列举支持的源
 -u,  --use-sources string[]          要使用的源,用逗号分隔
 -e,  --exclude-sources string[]       要排除的源,用逗号分隔
      --parse-wayback-robots bool    使用wayback,解析robots.txt快照
      --parse-wayback-source bool    使用wayback,解析源代码快照
 
FILTER & MATCH:
 -f, --filter string                    正则式过滤URL
 -m, --match string                 正则式匹配URL
 
OUTPUT:
     --no-color bool               禁用颜色高亮输出
 -o, --output string                输出URL文件路径
 -O, --output-directory string      输出URL目录路径 
 -v, --verbosity string            Verbose模式,默认为info
 
CONFIGURATION:
 -c,  --configuration string   配置文件路径(默认为~/.hueristiq/xurlfind3r/config.yaml)基础使用:
xurlfind3r -d hackerone.com --include-subdomains过滤器正则表达式:
# filter images
xurlfind3r -d hackerone.com --include-subdomains -f '`^https?://[^/]*?/.*\.(jpg|jpeg|png|gif|bmp)(\?[^\s]*)?$`'匹配正则表达式:
# match js URLs
xurlfind3r -d hackerone.com --include-subdomains -m '^https?://[^/]*?/.*\.js(\?[^\s]*)?$'本项目的开发与发布遵循MIT开源许可证协议。
xurlfind3r:【GitHub传送门】
https://msdn.microsoft.com/en-us/library/office/ee537574(v=office.14).aspx
https://bevigil.com/
https://github.com/
https://intelx.io/
https://urlscan.io/
https://otx.alienvault.com/
https://archive.org/web/
https://commoncrawl.org/
本文作者:Alpha_h4ck, 转载请注明来自FreeBuf.COM