使用Scrapy爬取股票數據

Ⅰ 如何用python 爬蟲抓取金融數據

獲取數據是數據分析中必不可少的一部分，而網路爬蟲是是獲取數據的一個重要渠道之一。鑒於此，我拾起了Python這把利器，開啟了網路爬蟲之路。

本篇使用的版本為python3.5，意在抓取證券之星上當天所有A股數據。程序主要分為三個部分：網頁源碼的獲取、所需內容的提取、所得結果的整理。

一、網頁源碼的獲取

很多人喜歡用python爬蟲的原因之一就是它容易上手。只需以下幾行代碼既可抓取大部分網頁的源碼。

為了減少干擾，我先用正則表達式從整個頁面源碼中匹配出以上的主體部分，然後從主體部分中匹配出每隻股票的信息。代碼如下。

pattern=re.compile('<tbody[sS]*</tbody>')
body=re.findall(pattern,str(content)) #匹配<tbody和</tbody>之間的所有代碼pattern=re.compile('>(.*?)<')
stock_page=re.findall(pattern,body[0]) #匹配>和<之間的所有信息

其中compile方法為編譯匹配模式，findall方法用此匹配模式去匹配出所需信息，並以列表的方式返回。正則表達式的語法還挺多的，下面我只羅列所用到符號的含義。

語法 說明

. 匹配任意除換行符「 」外的字元

* 匹配前一個字元0次或無限次

？ 匹配前一個字元0次或一次

s 空白字元：[<空格> fv]

S 非空白字元：[^s]

[...] 字元集，對應的位置可以是字元集中任意字元

(...) 被括起來的表達式將作為分組，裡面一般為我們所需提取的內容

正則表達式的語法挺多的，也許有大牛隻要一句正則表達式就可提取我想提取的內容。在提取股票主體部分代碼時發現有人用xpath表達式提取顯得更簡潔一些，看來頁面解析也有很長的一段路要走。

三、所得結果的整理

通過非貪婪模式(.*?)匹配>和<之間的所有數據，會匹配出一些空白字元出來，所以我們採用如下代碼把空白字元移除。

stock_last=stock_total[:] #stock_total：匹配出的股票數據for data in stock_total: #stock_last：整理後的股票數據
if data=='':
stock_last.remove('')

最後，我們可以列印幾列數據看下效果，代碼如下

print('代碼',' ','簡稱',' ',' ','最新價',' ','漲跌幅',' ','漲跌額',' ','5分鍾漲幅')for i in range(0,len(stock_last),13): #網頁總共有13列數據
print(stock_last[i],' ',stock_last[i+1],' ',' ',stock_last[i+2],' ',' ',stock_last[i+3],' ',' ',stock_last[i+4],' ',' ',stock_last[i+5])

Ⅱ 股票數據抓取機器人和商品信息機器人有什麼不同

股票數據抓取機器人和商品信息機器人區別在於其一具備編程能力，能夠根據不同的應用環境進行智能化判斷；其二是具備功能自動化操作能力，能夠代替傳統的人力進行功能操作；其三是具備數據整理能力，能夠對於不同環境下的數據進行歸類管理。

能夠節省大量的人力資源，很多復雜的流程化數據操作都可以通過數據抓取機器人來完成，不僅速度快，精確度也比較高。

Ⅲ 如何用爬蟲抓取股市數據並生成分析報表

推薦個很好用的軟體，我也是一直在用的，就是前嗅的ForeSpider軟體，
我是一直用過很多的採集軟體，最後選擇的前嗅的軟體，ForeSpider這款軟體是可視化的操作。簡單配置幾步就可以採集。如果網站比較復雜，這個軟體自帶爬蟲腳本語言，通過寫幾行腳本，就可以採集所有的公開數據。
軟體還自帶免費的資料庫，數據採集直接存入資料庫，也可以導出成excel文件。
如果自己不想配置，前嗅可以配置採集模板，我的模板就是從前嗅購買的。
另外他們公司不光是軟體好用，還有自己的數據分析系統，直接採集完數據後入庫，ForeSpider內部集成了數據挖掘的功能，可以快速進行聚類分類、統計分析等，採集結果入庫後就可以形成分析報表。
最主要的是他採集速度非常快，我之前用八爪魚的軟體，開伺服器采，用了一個月采了100萬條，後來我用ForeSpider。筆記本採的，一天就好幾百萬條。
這些都是我一直用前嗅的經驗心得，你不妨試試。
建議你可以下載一個免費版試一試，免費版不限制功能，沒有到期時間。

Ⅳ 基於python的scrapy爬蟲，關於增量爬取是怎麼處理的

一、增量爬取的思路：即保存上一次狀態，本次抓取時與上次比對，如果不在上次的狀態中，便視為增量，保存下來。對於scrapy來說，上一次的狀態是抓取的特徵數據和上次爬取的 request隊列（url列表），request隊列可以通過request隊列可以通過scrapy.core.scheler的pending_requests成員得到，在爬蟲啟動時導入上次爬取的特徵數據，並且用上次request隊列的數據作為start url進行爬取，不在上一次狀態中的數據便保存。
二、選用BloomFilter原因：對爬蟲爬取數據的保存有多種形式，可以是資料庫，可以是磁碟文件等，不管是資料庫，還是磁碟文件，進行掃描和存儲都有很大的時間和空間上的開銷，為了從時間和空間上提升性能，故選用BloomFilter作為上一次爬取數據的保存。保存的特徵數據可以是數據的某幾項，即監控這幾項數據，一旦這幾項數據有變化，便視為增量持久化下來，根據增量的規則可以對保存的狀態數據進行約束。比如：可以選網頁更新的時間，索引次數或是網頁的實際內容，cookie的更新等

Ⅳ 如何用python在掘金量化抓取數據

TuShare財經數據介面 – 可以直接抓取新浪財經、鳳凰財經的網站數據，包括行情、基本面、經濟數據等等。
完全免費，簡潔易用，API設計得非常友好，提取的數據格式是Pandas的DataFrame。同時可以獲取非高頻實時數據（取決於網站更新速度，同事經驗大約是15秒），一個極好的非高頻股票策略數據解決方案。

Ⅵ 股票數據抓取機器人的工作流程分別是操作準備

對。股票（stock）是股份公司所有權的一部分，也是發行的所有權憑證，是股份公司為籌集資金而發行給各個股東作為持股憑證並藉以取得股息和紅利的一種有價證券。股票是資本市場的長期信用工具，可以轉讓，買賣，股東憑借它可以分享公司的利潤，要承擔公司運作錯誤所帶來的風險，每股股票都代表股東對企業擁有一個基本單位的所有權，每家上市公司都會發行股票。

Ⅶ 網路爬蟲抓取數據 有什麼好的應用

一般抓數據的話可以學習Python，但是這個需要代碼的知識。
如果是沒有代碼知識的小白可以試試用成熟的採集器。
目前市面比較成熟的有八爪魚，後羿等等，但是我個人習慣八爪魚的界面，用起來也好上手，主要是他家的教程容易看懂。可以試試。