① 下载八爪鱼软件进行抓取会不会不安全
八爪鱼能采集的数据基本都是纯公开数据,所以采集本身并不违法。但是采集到的数据如果涉及隐私等等问题,使用这些数据以及商用这些数据,就会有法律问题。
② 股票八爪鱼是什么意思
股票八爪鱼是金融数据。根据查询公开信息显示,股票八爪鱼的意思是金融数据量化过后,投资者相当与是一只八爪鱼,无数个触角可以接触到它任何想要去感知的地方去看有没有机会。
③ 八爪鱼采集器可以看到预览数据采集后是零
安装打开八爪鱼首页后,可以看到界面简洁,从上到下有搜索框、采集模板以及教程。采集时可以直接在搜索框输入目标网址,或者在左侧选择【新建】创建采集任务。
输入网址后进入采集界面,可以看到,初始页面分为①网页显示、②数据预览和③流程图三大区域。
其中点击版块①右上角的黄色图标,会打开【操作提示框】;
在版块②中可以对数据字段进行编辑、添加、删除等操作;
在版块③中,点击每个步骤框可以进入基础、高级选项设置页面,点击…按钮可对当前步骤进行删除等操作。此外,将鼠标移动到流程中的 ↓位置,会出现 + 按钮,点击可添加流程步骤。
那么什么是采集流程呢?它是指从特定网页上抓取数据的指令。由于每个网站的页面布局不同,因此采集流程不能通用,要根据具体需要自定义配置。
接下来我们以具体例子,了解如何采集列表数据、表格数据以及翻页采集详情页数据。
采集列表数据
步骤一:输入网址
在首页【输入框】中输入目标网址(以豆瓣读书为例),点击【开始采集】,八爪鱼会自动打开网页。
步骤二:建立采集流程-【循环提取数据】
观察可以发现,该网页上的图书信息以列表形式呈现,每个列表结构相同,都包含书名、出版信息、评分、评价数、图书简介等。那么如何让八爪鱼识别所有列表,并采集所需类型的数据呢?
在八爪鱼中,我们需要建立【循环提取数据】的流程:
第一,任意点击选中页面上的一个图书列表。选中后的列表会呈绿色框选状态,其中红色虚线框内的称为【子元素】。(需要注意的是,要确保待采集的所有内容都在绿色框内。)
第二,在弹出的黄色操作提示框中选择【选中子元素】。
此时当前列表数据的全部具体字段已被识别出来,并且八爪鱼还自动识别出了其他同类元素。
第三,在黄色操作提示框中,继续选择【选中全部】。
此时可以看到在下方的列表当中显示出了其他同类数据。
第四,在黄色操作提示框中,选择【采集数据】。此时,八爪鱼提取出列表中的字段。
步骤三:编辑字段
在下方的数据预览部分,对于列表中已提取出的所有字段,我们可以根据实际需求进行修改字段名称或删除等操作。
步骤四:启动采集
第一,以上设置完成后,依次点击右上方的【保存】和【采集】按钮,启动本地采集。
第二,采集完成后,选择合适的导出方式(Excel、CSV、HTML)导出数据。这里导出为Excel。
打开Excel文件,可以看到成功采集的数据~
采集表格数据
表格是一种很常见的网页样式,比如现在有一个新浪财经的网页 ,如何采集其中具体数据呢?
可以看到表格内每条股票信息各占一行,且一行股票中包含代码、名称、最新评级、评级机构、所属行业等多个字段信息。
那么如何将这些字段数据采集下来并以Excel形式保存呢?
接下来看具体操作:
步骤一:输入网址
在八爪鱼中采集数据的第一步基本都是输入目标网址,点击【开始采集】。
步骤二:建立采集流程
第一,选中页面上第一行第一个单元格,再点击操作提示框下方的TR,选中至一整行。
第二,在提示框中,选择【选中子元素】,这样第1个股票的具体字段会被选中。
同时可以看到,列表其他元素在红色线框内,说明八爪鱼还自动识别出了页面中其他股票列表中的同类【子元素】。
第三,在提示框中,选择【选中全部】。可以看到页面中所有股票列表中的子元素都呈绿框选中状态。
第四,在黄色操作提示框中,选择【采集数据】。
点击采集选项之后,可以看到数据预览区域显示出所有待采集字段的数据。
步骤三:编辑字段
接下来对列表中已提取出的所有字段,根据实际需求进行修改名称或删除等操作。
步骤4:启动采集
第一,以上设置完成后,依次点击右上方的【保存】和【采集】按钮,启动本地采集。
第二,采集完成后,选择以Excel格式导出,即可得到成功采集的数据。
采集详情页数据
在上面的操作中,我们采集的是主页面上的相关数据。但实际上,网页之间会有链接关系,如果我们对主页上某个条目感兴趣,会点击进入详情页进一步了解。那如何爬取多个同类详情页数据呢?
以网络学术对“知识交互作用”的检索页面为例,在八爪鱼首页输入目标网址后,开始建立采集流程。
建立采集流程—【循环-点击元素-提取数据】
第一,选中页面上第1个链接(会呈绿色实线框选状态)。
这时可以看到出现黄色操作提示框,提示我们发现了同类链接(红色虚线框选状态)。
第二,点击【选中全部】后,同类标题链接都被选中。
第三,在黄色操作提示框中,选择【循环点击每个链接】。(因为是按顺序依次采集每个详情页数据,所以需要循环点击链接。)
选择以后,会发现页面跳转到了第1个链接的详情页。
第四,按照需要提取数据。依次点击选中字段后,在黄色操作提示框选择【采集该元素文本】或其他。这里只提取文章标题、作者、摘要、关键词、被引量和年份。
④ 如何使用八爪鱼采集金融界基金数据
1、创建金融界基金数据采集任务
2、创建文本循环
3、分页表格信息采集
4、基金数据采集及导出
1.创建金融界基金数据采集任务1)进入主界面,选择“自定义采集”2)将要上述采集的网址URL复制粘贴到网站输入框中,点击“保存网址”
2.创建文本循环1)鼠标滑动到页底,然后选中“下一页”,提示框中选择“循环点击下一页”2)由于页面使用了ajax加载技术,需要对点击元素及翻页步骤设置ajax延时加载(ajax判断方法:打开流程图,找到翻页循环框,手动执行翻页,看网站有没有进行加载)在右侧的高级选项框中,勾选Ajax加载数据,选择合适的超时时间,一般设置3秒;最后点击确定。
3.分页表格信息采集l选中需要采集的字段信息,创建采集列表l编辑采集字段名称移动鼠标选中表格里任意一个空格信息,右键点击,如图所示,框中数据会被选中,变成绿色,点击右侧提示中点击“TR”选中数据当前一行的数据会被全部选中,点击“选中子元素右侧操作提示框中,查看提取的字段,可将不需要字段删除,点击“选中全部”点击“采集以下数据”
4.基金数据采集及导出采集完成后,会跳出提示,选择导出数据,选择合适的导出方式,将采集好的数据导出,这里我们选择excel作为导出为格式,一份完好的金融界基金数据就导出好了