股票数据爬虫算法

❶ java 如何实现 获取实时股票数据

一般有三种方式：

1. 网页爬虫。采用爬虫去爬取目标网页的股票数据，去GitHub或技术论坛（如CSDN、51CTO）上找一下别人写的爬虫集成到项目中。

2. 请求第三方API。会有专门的公司（例如网络API市场）提供股票数据，你只需要去购买他们的服务，使用他们提供的SDK，仿照demo开发实现即可。如下图所示：

❷ 如何利用一些 finance 数据库 api 批量获取股票信息

使用Yahoo API获取股票信息。

❸ 爬取股票信息是网络爬虫的应用场景吗

网络爬虫可以用来爬取股票信息，因为股票信息可以在互联网上搜索并获取，网络爬虫可以自动收集这些信息。网络爬虫是一种自动地抓取互联网信息的程序，能够按照指定的规则自动地抓取网站上的信息，是一种常见的数据抓取技术。

❹ 怎么学python爬取财经信息

本程序使用Python 2.7.6编写，扩展了Python自带的HTMLParser，自动根据预设的股票代码列表，从Yahoo Finance抓取列表中的数据日期、股票名称、实时报价、当日变化率、当日最低价、当日最高价。

由于Yahoo Finance的股票页面中的数值都有相应id。

例如纳斯达克100指数ETF（QQQ）
其中实时报价的HTML标记为

[html]view plain

• <spanid="yfs_l84_qqq">87.49</span>

而标普500指数ETF（SPY）


其中实时报价的HTML标记为

[html]view plain

• <spanid="yfs_l84_spy">187.25</span>

因此本数据抓取程序根据相应的id字符串来查找数据。具体来说就是先继承HTMLParser，然后在自定义的子类中重载handle_data(self, data)方法，查找包含相应id字符串（例如实时报价的id字符串为"yfs_l84_"+股票代码）的HTML标记，并输出这个HTML标记中的数据（例如qqq的<span id="yfs_l84_qqq">87.49</span>，其中的数据87.49就是实时报价。）

样本输出：

数据依次是

数据日期 股票代码 股票名称 实时报价 日变化率 日最低价 日最高价

[python]view plain

• 05/05/(IBB)233.281.85%225.34233.28

• 05/05/(SOCL)17.480.17%17.1217.53

• 05/05/(PNQI)62.610.35%61.4662.74

• 05/05/2014xsdSPDRS&PSemiconctorETF(XSD)67.150.12%66.2067.41

• 05/05/2014itaiSharesUSAerospace&Defense(ITA)110.341.15%108.62110.56

• 05/05/2014iaiiSharesUSBroker-Dealers(IAI)37.42-0.21%36.8637.42

• 05/05/(VBK)119.97-0.03%118.37120.09

• 05/05/2014qqqPowerSharesQQQ(QQQ)87.950.53%86.7687.97

• 05/05/2014ewiiSharesMSCIItalyCapped(EWI)17.86-0.56%17.6517.89

• 05/05/(DFE)62.33-0.11%61.9462.39

• 05/05/(PBD)13.030.00%12.9713.05

• 05/05/(EIRL)38.52-0.16%38.3938.60

❺ 1、如何将财经类网上股票历年分红数据提取到EXCEL表里，并获取股票实时价格

回答此类问题的描述会被网络知道判违规。

请在“数据”选项下的“自网站”进行相应的操作，然后设置数据更新频率，即可。

❻ 互联网金融爬虫怎么写

Previous on 系列教程：

互联网金融爬虫怎么写－第一课 p2p网贷爬虫（XPath入门）

互联网金融爬虫怎么写－第二课 雪球网股票爬虫（正则表达式入门）
互联网金融爬虫怎么写－第三课 雪球网股票爬虫（ajax分析）

哈哈，一小时不见，我又来了，话说出教程就是这么任性，咱们乘热打铁，把上节课分析完成但是没写的代码给完成了！

工具要求：教程中主要使用到了 1、神箭手云爬虫 框架 这个是爬虫的基础，2、Chrome浏览器和Chrome的插件XpathHelper 这个用来测试Xpath写的是否正确 3、Advanced REST Client用来模拟提交请求
基础知识：本教程中主要用到了一些基础的js和xpath语法，如果对这两种语言不熟悉，可以提前先学习下，都很简单。
还记得我们在遥远的电商系列爬虫教程的第一课里提到具体写爬虫的几个步骤吗？我们沿着路径再来走一遍：

第一步：确定入口URL
暂且使用这个第一页的ajax的url链接：

[html] view plain
http://xueqiu.com/stock/cata/stocklist.json?page=1&size=30&order=desc&orderby=percent&type=11%2C12

第二步：区分内容页和中间页

这次大家有点犯难了，虽然说每一个股票都有一个单独的页面，但是列表页的信息已经蛮多的了，光爬取列表页信息就已经够了，那怎么区分内容页和中间页呢？其实我们只需要将内容页和中间页的正则设置成一样的既可。如下：

[html] view plain
http://xueqiu.com/stock/cata/stocklist\\.json\\?page=\\d+&size=30&order=desc&orderby=percent&type=11%2C12
在提醒大家一下，这里之所以转义符用了两个是因为在神箭手中，设置正则时，是字符串设置，需要对转义符再做一次转义。

第三步：内容页抽取规则
由于ajax返回的是json，而神箭手是支持jsonpath的提取方式的，因此提取规则就很简单了。不过这里要特殊注意的是，由于我们是在列表页抽取数据，因此数据最顶层相当于是一个列表，我们需要在顶层的field上设置一个列表数据的值。具体抽取规则如下：

[javascript] view plain
fields: [
{
name: "stocks",
selector: "$.stocks",
selectorType:SelectorType.JsonPath,
repeated: true,
children:[
{
name:"code",
alias:"代码",
selector:"$.code",
selectorType:SelectorType.JsonPath,
},
{
name:"name",
alias:"名称",
selector:"$.name",
selectorType:SelectorType.JsonPath,
},
{
name:"current",
alias:"当前价格",
selector:"$.current",
selectorType:SelectorType.JsonPath,
},
{
name:"high",
alias:"最高价格",
selector:"$.high",
selectorType:SelectorType.JsonPath,
},
{
name:"low",
alias:"最低价格",
selector:"$.low",
selectorType:SelectorType.JsonPath,
}

]
}
]

我简单抽取了一些信息，其他信息都类似。

好了，主要的代码基本已经写好了，剩下的还需要解决两个问题
1.爬取前需要先访问一下首页获取cookie
2.虽然可以直接加入下一页，但是一共有多少页并不知道。
首先对于第一点，我们只需要在beforeCrawl回调中访问一下首页即可，神箭手会自动对cookie进行处理和保存，具体代码如下：

[javascript] view plain
configs.beforeCrawl = function(site){
site.requestUrl("http://xueqiu.com");
};
好了，除了下一页基本已经没什么问题了，我们先测试一下看看效果：

数据已经出来了，没问题，第一页的数据都有了，那下一页怎么处理呢？我们有两个方案：
第一个方案：
我们可以看到json的返回值中有一个count字段，这个字段目测应该是总数据量的值，那没我们根据这个值，再加上单页数据条数，我们就可以判断总共有多少页了。
第二个方案：
我们先访问一下，假设页数很大，看看会雪球会返回什么，我们尝试访问第500页，可以看到返回值中的stocks是0个，那么我们可以根据是否有数据来判断需不需要加下一页。
两个方案各有利弊，我们这里选择用第一个方案来处理，具体代码如下：

[javascript] view plain
configs.onProcessHelperPage = function(page, content, site){
if(page.url.indexOf("page=1&size=30") !== -1){
//如果是第一页
var result = JSON.parse(page.raw);
var count = result.count.count;
var page_num = Math.ceil(count/30);
if(page_num > 1){
for(var i = 2;i<=page_num;i++){
site.addUrl("http://xueqiu.com/stock/cata/stocklist.json?page="+i+"&size=30&order=desc&orderby=percent&type=11%2C12");
}
}
}
};
好了，通过三课的艰苦奋战，终于完成了雪球沪深一览的征服。先看下跑出来的效果。

完整代码如下：

[javascript] view plain
var configs = {
domains: ["xueqiu.com"],
scanUrls: ["http://xueqiu.com/stock/cata/stocklist.json?page=1&size=30&order=desc&orderby=percent&type=11%2C12"],
contentUrlRegexes: ["http://xueqiu.com/stock/cata/stocklist\\.json\\?page=\\d+&size=30&order=desc&orderby=percent&type=11%2C12"],
helperUrlRegexes: ["http://xueqiu.com/stock/cata/stocklist\\.json\\?page=\\d+&size=30&order=desc&orderby=percent&type=11%2C12"],
fields: [
{

name: "stocks",
selector: "$.stocks",
selectorType:SelectorType.JsonPath,
repeated: true,
children:[
{
name:"code",
alias:"代码",
selector:"$.code",
selectorType:SelectorType.JsonPath,
},
{
name:"name",
alias:"名称",
selector:"$.name",
selectorType:SelectorType.JsonPath,
},
{
name:"current",
alias:"当前价格",
selector:"$.current",
selectorType:SelectorType.JsonPath,
},
{
name:"high",
alias:"最高价格",
selector:"$.high",
selectorType:SelectorType.JsonPath,
},
{
name:"low",
alias:"最低价格",
selector:"$.low",
selectorType:SelectorType.JsonPath,
}

]
}

]
};

configs.onProcessHelperPage = function(page, content, site){
if(page.url.indexOf("page=1&size=30") !== -1){
//如果是第一页
var result = JSON.parse(page.raw);
var count = result.count.count;
var page_num = Math.ceil(count/30);
if(page_num > 1){
for(var i = 2;i<=page_num;i++){
site.addUrl("http://xueqiu.com/stock/cata/stocklist.json?page="+i+"&size=30&order=desc&orderby=percent&type=11%2C12");
}
}
}
};
configs.beforeCrawl = function(site){
site.requestUrl("http://xueqiu.com");
};

var crawler = new Crawler(configs);
crawler.start();

❼ python用什么方法或者库可以拿到全部股票代码

首先你需要知道哪个网站上有所有股票代码，然后分析这个网站股票代码的存放方式，再利用python写一个爬虫去爬取所有的股票代码

❽ 如何用爬虫抓取股市数据并生成分析报表

1. 关于数据采集
股票数据是一种标准化的结构数据，是可以通过API接口访问的（不过一般要通过渠道，开放的API有一定的局限性）。也可以通过爬虫软件进行采集，但是爬虫软件采集数据不能保证实时性，根据数据量和采集周期，可能要延迟几十秒到几分钟不等。我们总结了一套专业的爬虫技术解决方案(Ruby + Sidekiq)。能够很快实现这个采集，也可以后台可视化调度任务。

2. 关于展现
网络股票数据的展现，网页端直接通过HTML5技术就已经足够，如果对界面要求高一点，可以采用集成前端框架，如Bootstrap；如果针对移动端开发， 可以使用Ionic框架。

3. 关于触发事件
如果是采用Ruby on Rails的开发框架的话，倒是很方便了，有如sidekiq, whenever这样子的Gem直接实现任务管理和事件触发。

❾ 东方财富数据中心资金流交易时段能实时查看吗

dhswgc
如何爬东方财富网资金流的往日数据
东方财富网 ，见下图，个股资金流 板块资金流能爬往日的数据吗？比如爬前一段时间主力净流入，超大单流入等

行业板块资金流向排行 _ 数据中心 _ 东方财富网
​
data.eastmoney.com
图标

编辑于 06-20
着作权归作者所有 · 申请转载
分享到
​
​
​
股票
金融
python爬虫
评论

添加评论...
推荐阅读
中国股市：我最看好的一份科技龙头，未来翻倍空间至少50倍（名单）
A市观票的文章 · 352 赞同
爬取东方财富网当日股票交易情况
介绍爬虫内容爬虫的第一步是得到数据的存放地址，因此，爬取股票行情数据之前，第一步的工作是解析网页，寻找数据的url。 东方财富网股票行情界面如图： 此页面的链接为： 行情中心：国内最…
依若学术的文章 · 1 赞同
A股养家，走进游资大佬——欢乐海岸
欢乐海岸之所以被称作为欢乐海岸，是因为其席位叫做中泰证券深圳欢乐海岸证券营业部，当然协同席位超过10个，通道极好，其资金规模超10亿，对龙头股主升浪情有独钟，并且敢于锁仓，市场号召…
傅盘的文章 · 5 赞同
【盘点】十大热门股票app
当今社会经济快速发展，老百姓的生活也是越过越滋润，加之随着互联网的发展，各种信息渗透我们的生活，越来越多的人了解到投资理财的重要性，炒股成为当下热门的投资方式。但是对于炒股软件…
爱飞翔的的文章 · 15 赞同
北上跑了，全球股市躺了，白银崩了！
laod...的文章 · 9 赞同
北上跑了，全球股市躺了，白银崩了！
9.21 午评 : 解析北上行为
周五北上资金大笔买入，创了3个月流入新高，94亿。 今天又大笔卖出…
laod...的文章 · 6 赞同
9.21 午评 : 解析北上行为
资金净流入/流出
关于资金的净流入和净流出问题，我个人一直很是疑惑，股票既然是一…
小马说券的文章 · 24 赞同
资金净流入/流出
比茅台还稳的“低调”牛股？年内上涨240%，背后有何猫腻？
股浪风乘的文章 · 15 赞同
数据采集-python爬虫项目-3.股票新闻抓取和舆情分析（附代码）
懒懒的兔...的文章
数据采集-python爬虫项目-3.股票新闻抓取和舆情分析（附代码）