Trae怎么生成爬虫脚本?
用Trae生成爬虫脚本,其实就四步,走通了比想象中省心不少。先登录平台完成实名认证,进入「智能爬虫」模块;然后输入目标网址,等它把页面解析好、显示“DOM已就绪”之后,再动手标注字段;接着框选列表区域,逐个标注子字段——如果页面有分页,记得手动加载更多内容;最后一步就是生成Python脚本,装好依赖,跑起来就行了。

整体流程是:先在Trae里分析网页结构、标注好字段,然后自动生成代码,最后导出可运行的Python脚本。下面一步步拆开说。
准备待抓取网页并登录Trae
打开Trae官网(trae.ai),用GitHub或邮箱账号登录。要是还没注册,必须先完成实名认证,否则进不了「智能爬虫」模块。
【特别注意:没实名的话,会卡在项目创建页,而且没有任何报错提示,很坑】
登录后,点击左侧导航栏的「智能爬虫」→「新建任务」。
输入目标URL并启动智能解析
在「目标网址」输入框里,粘贴你要抓取的网页地址,比如 https://example.com/products 。
点击「开始分析」按钮,Trae会自动加载页面并渲染JavaScript内容。等右上角状态显示「DOM已就绪」再继续下一步——否则字段标注会失效,白忙活。
这一步不能跳过:Trae不支持纯静态HTML上传,必须通过真实URL发起动态解析。
标注需要提取的数据字段
有两种方法。方法一:直接点击页面上要提取的文字区域(比如商品标题、价格、图片链接),在弹出的浮动面板里选择字段类型(文本/数字/URL/日期)并命名,例如「商品名称」「售价」。
方法二:对于重复区块(比如商品列表),先框选整个容器元素,点击「标记为列表项」,然后在示例项里逐个标注子字段。Trae会自动识别循环结构,生成for循环逻辑。
注意:如果页面有分页或滚动加载,必须手动切换到第二页,或者滚动到底部再点击「加载更多数据」——否则Trae只学到首屏内容,后面全抓不到。
生成并下载爬虫脚本
第一步:确认所有字段标注无误后,点击右上角的「生成代码」按钮。
第二步:在弹出的窗口里选择「Python + Requests + BeautifulSoup」模板(默认就是这个),勾选「包含自动翻页逻辑」(前提是你已经标注了分页元素,否则勾了也没用)。
第三步:点击「下载脚本」,文件名是 crawler_域名_时间戳.py,保存到本地。
第四步:打开终端,执行 pip install requests beautifulsoup4 lxml 安装依赖,然后运行脚本:python crawler_example_com_20241105.py。