爬取股票网站数据

⑴ 爬虫都可以干什么

python是一种计算机的编程语言，是这么多计算机编程语言中比较容易学的一种，而且应用也广，这python爬虫是什么意思呢？和IPIDEA全球http去了解一下python爬虫的一些基础知识。

一、python爬虫是什么意思

爬虫：是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。

即：打开一个网页，有个工具，可以把网页上的内容获取下来，存到你想要的地方，这个工具就是爬虫。

Python爬虫架构组成：

1.网页解析器，将一个网页字符串进行解析，可以按照我们的要求来提取出我们有用的信息，也可以根据DOM树的解析方式来解析。

2.URL管理器：包括待爬取的URL地址和已爬取的URL地址，防止重复抓取URL和循环抓取URL，实现URL管理器主要用三种方式，通过内存、数据库、缓存数据库来实现。

3.网页下载器：通过传入一个URL地址来下载网页，将网页转换成一个字符串，网页下载器有urllib2（Python官方基础模块）包括需要登录、代理、和cookie，requests(第三方包)

4.调度器：相当于一台电脑的CPU，主要负责调度URL管理器、下载器、解析器之间的协调工作。

5.应用程序：就是从网页中提取的有用数据组成的一个应用。

二、爬虫怎么抓取数据

1.抓取网页

抓取网页有时候需要模拟浏览器的行为，很多网站对于生硬的爬虫抓取都是封杀的。这是我们需要模拟user agent的行为构造合适的请求，比如模拟用户登陆、模拟session/cookie的存储和设置。

2.抓取后处理

抓取的网页通常需要处理，比如过滤html标签，提取文本等。python的beautifulsoap提供了简洁的文档处理功能，能用极短的代码完成大部分文档的处理。

其实以上功能很多语言和工具都能做，但是用python能够干得最快，最干净。上文介绍了python爬虫的一些基础知识，相信大家对于“python爬虫是什么意思”与“爬虫怎么抓取数据”有一定的的认识了。现在大数据时代，很多学python的时候都是以爬虫入手，学习网络爬虫的人越来越多。通常使用爬虫抓取数据都会遇到IP限制问题，使用高匿代理，可以突破IP限制，帮助爬虫突破网站限制次数。

⑵ 学python可以做什么

1WEB开发

在国内，豆瓣一开始就使用Python作为web开发基础语言，知乎的整个架构也是基于Python语言，这使得web开发这块在国内发展的很不错。

尽管目前Python并不是做Web开发的首选，但一直都占有不可忽视的一席。Python中有各类Web框架，无论是简单而可以自由搭配的微框架还是全功能的大型MVC框架都一应俱全，这在需要敏捷开发的Web项目中也是十分具有优势的。广泛使用（或曾经广泛使用）Python提供的大型Web服务包括知乎、豆瓣、Dropbox等网站。加之Python本身的“胶水”特性，很容易实现在需要大规模性能级计算时整合其它语言，同时保留Web开发时的轻便快捷。

除此之外，Python中还有大量“开箱即用”的模块，用于与各种其它网站的对接等相关功能。如果希望开发个微信公众号相关功能，wechat-sdk/weixin-python等包，能够使你几乎完全不用管文档中提及的各种服务器交互细节，专注于功能实现即能完成开发。

目前，国内的Python web开发主要有两个技术栈：

（1）Django

Django是一个高级的敏捷web开发框架，如果学会了，撸一个网站很快。当然如果纯粹比撸网站的速度，基于ruby的Ruby on rails显然更快，但是Django有一个优势就是性能优秀，更适合国内网站的应用场景。国外的着名图片社区Pinterest早期也是基于Django开发的，承受了用户快速增长的冲击。所以说如果你想快速开发一个网站，还能兼顾APP客户端的API调用需求，Django是可以信赖的。

（2）Flask

相对于Django，Flask则是一个轻量级的web框架，Flask的最大的优势是性能优越，适合配合手机客户端开发后台API服务。国内基于Flask的Restful API服务这快很火，也是需求最大的。知名的比如网络、网易、小米、陌陌等等很多公司都有基于Flask的应用部署。当然，如果你想做一个传统的web网站，还是建议使用Django，Flask的优势是后端、API，不适合构建全功能网站。

2网络爬虫

网络爬虫是Python比较常用的一个场景，国际上，google在早期大量地使用Python语言作为网络爬虫的基础，带动了整个Python语言的应用发展。以前国内很多人用采集器搜刮网上的内容，现在用Python收集网上的信息比以前容易很多了。

Python在这个方面有许多工具上的积累，无论是用于模拟HTTP请求的Requests、用于HTML DOM解析的PyQuery/BeautifulSoup、用于自动化分布式爬取任务的Scrapy，还是用于最简化数据库访问的各种ORM，都使得Python成为数据爬取的首选语言之一。特别是，爬取后的数据分析与计算是Python最为擅长的领域，非常容易整合。目前Python比较流行的网络爬虫框架是功能非常强大的scrapy。

3人工智能与机器学习

人工智能是现在非常火的一个方向，AI热潮让Python语言的未来充满了无限的潜力。现在释放出来的几个非常有影响力的AI框架，大多是Python的实现，为什么呢？

因为Python足够动态、具有足够性能，这是AI技术所需要的技术特点。比如基于Python的深度学习库、深度学习方向、机器学习方向、自然语言处理方向的一些网站基本都是通过Python来实现的。机器学习，尤其是现在火爆的深度学习，其工具框架大都提供了Python接口。Python在科学计算领域一直有着较好的声誉，其简洁清晰的语法以及丰富的计算工具，深受此领域开发者喜爱。

6桌面程序

Python也可以用于桌面软件开发（如sublime text等），甚至移动端开发（参看kivy）。Python简洁方便，各种工具包齐全的环境，能大幅度减少开发者的负担。着名的UI框架QT有Python语言的实现版本PyQT。Python简单易用的特性加上QT的优雅，可以很轻松的开发界面复杂的桌面程序，并且能轻松实现跨平台特性。

7多媒体应用

可以用Python里面的PIL、Piddle、ReportLab 等模块对图象、声音、视频、动画等进行处理，还可以用Python生成动态图表和统计分析图表。另外，还可以利用PyOpenGl模块非常快速有效的编写出三维场景。

⑶ java 如何实现 获取实时股票数据

一般有三种方式：

1. 网页爬虫。采用爬虫去爬取目标网页的股票数据，去GitHub或技术论坛（如CSDN、51CTO）上找一下别人写的爬虫集成到项目中。

2. 请求第三方API。会有专门的公司（例如网络API市场）提供股票数据，你只需要去购买他们的服务，使用他们提供的SDK，仿照demo开发实现即可。如下图所示：

⑷ python能做什么

python的用途：

Python的优势有必要作为第一步去了解，Python作为面向对象的脚本语言，优势就是数据处理和挖掘，这也注定了它和AI、互联网技术的紧密联系。

网络爬虫。顾名思义，从互联网上爬取信息的脚本，主要由urllib、requests等库编写，实用性很强，小编就曾写过爬取5w数据量的爬虫。在大数据风靡的时代，爬虫绝对是新秀。

人工智能。AI使Python一战成名，AI的实现可以通过tensorflow库。神经网络的核心在于激活函数、损失函数和数据，数据可以通过爬虫获得。训练时大量的数据运算又是Python的show time。

(4)爬取股票网站数据扩展阅读：

Python开发人员尽量避开不成熟或者不重要的优化。一些针对非重要部位的加快运行速度的补丁通常不会被合并到Python内。在某些对运行速度要求很高的情况，Python设计师倾向于使用JIT技术，或者用使用C/C++语言改写这部分程序。可用的JIT技术是PyPy。

Python是完全面向对象的语言。函数、模块、数字、字符串都是对象。并且完全支持继承、重载、派生、多继承，有益于增强源代码的复用性。

Python支持重载运算符和动态类型。相对于Lisp这种传统的函数式编程语言，Python对函数式设计只提供了有限的支持。有两个标准库(functools, itertools)提供了Haskell和Standard ML中久经考验的函数式程序设计工具。

⑸ 爬取股票信息是网络爬虫的应用场景吗

网络爬虫可以用来爬取股票信息，因为股票信息可以在互联网上搜索并获取，网络爬虫可以自动收集这些信息。网络爬虫是一种自动地抓取互联网信息的程序，能够按照指定的规则自动地抓取网站上的信息，是一种常见的数据抓取技术。

⑹ 如何爬取新浪财经的多级数据

爬取新浪财经的多级数据可以按照以下步骤。
1、导入依赖的模块，需要导入的程序接口有request、pyquery和Pandas。
2、选择爬取数据，选取的数据为新浪财经的网页，进入微博-新浪财经的网页，点击鼠标右键，出现如图所示的对话框，点击检查。
3、点击Toggledevive键，将网页由PC显示，转换成手机显示模式以便于爬取网页内容，多数网站在PC端都建立了防爬措施。
4、进入网页的手机端后，点击Network。
5、从选择的网页中选取需要的内容进行爬取并输出。

⑺ 璇锋暀python閲忓寲浜ゆ槗镞剁敤鍒扮殑镶＄エ姣忓ぉ阃愮玛浜ゆ槗鏁版嵁濡备綍鐖鍙栵纻

棣栧厛锛屾墦寮链熻揣浜ゆ槗杞浠讹纴锏诲綍镊宸辩殑浜ゆ槗璐︽埛銆傞夋嫨鐩稿簲镄勬湡璐у悎绾︼纴杩涘叆浜ゆ槗鐣岄溃銆

鍏舵★纴镓惧埌钬沧垚浜よ板綍钬濇垨钬滈愮玛鎴愪氦钬濈瓑鐩稿叧锷熻兘鎸夐挳銆傚湪涓浜涗氦鏄撹蒋浠朵腑锛岃繖涓鎸夐挳鍙鑳戒綅浜庝氦鏄撶晫闱㈢殑搴曢儴鎴栦晶杈规爮銆

铹跺悗锛岀偣鍑烩沧垚浜よ板綍钬濇垨钬滈愮玛鎴愪氦钬濇寜阍锛岃繘鍏ユ垚浜よ板綍椤甸溃銆傚湪杩欎釜椤甸溃涓婏纴浣犲彲浠ョ湅鍒版渶杩戠殑鎴愪氦璁板綍鍒楄〃銆

鎺ヤ笅𨱒ワ纴镓惧埌钬滃煎嚭钬濇垨钬滃煎嚭鎴愪氦鏄庣粏钬濈瓑鎸夐挳銆傝繖涓鎸夐挳阃氩父浣崭簬鎴愪氦璁板綍椤甸溃镄勪笂鏂规垨涓嬫柟銆

铹跺悗锛岀偣鍑烩滃煎嚭钬濇垨钬滃煎嚭鎴愪氦鏄庣粏钬濇寜阍锛岄夋嫨瀵煎嚭鏂囦欢镄勬牸寮忓拰淇濆瓨璺寰勚备竴鑸𨱒ヨ达纴鎴戜滑鍙浠ラ夋嫨瀵煎嚭涓篍xcel鎴朇SV镙煎纺镄勬枃浠讹纴杩欐牱鍙浠ユ柟渚垮悗缁镄勬暟鎹澶勭悊鍜屽垎鏋愩

链钖庯纴镣瑰嚮钬灭‘璁も濇垨钬滃煎嚭钬濇寜阍锛岀瓑寰呰蒋浠跺畬鎴愬煎嚭杩囩▼銆傚煎嚭镄勯熷害鍙栧喅浜庢垚浜よ板綍镄勬暟閲忓拰鐢佃剳镐ц兘绛夊洜绱犮

涓镞﹀煎嚭瀹屾垚锛屼綘灏卞彲浠ュ湪阃夋嫨镄勪缭瀛樿矾寰勪腑镓惧埌瀵煎嚭镄勬枃浠躲傞氲繃镓揿紑杩欎釜鏂囦欢锛屼綘灏卞彲浠ユ煡鐪嫔拰鍒嗘瀽链熻揣阃愮玛鎴愪氦鏄庣粏浜嗐

瀵煎嚭镄勬湡璐ч愮玛鎴愪氦鏄庣粏鏂囦欢阃氩父鍖呮嫭浠ヤ笅淇℃伅锛氢氦鏄撴棩链熴佷氦鏄撴椂闂淬佹垚浜や环镙笺佹垚浜ゆ暟閲忋佷拱鍗栨柟钖戠瓑銆傝繖浜涗俊鎭鍙浠ュ府锷╀綘杩借釜姣忎竴绗旀垚浜ょ殑𨱍呭喌锛屽垎鏋愬竞鍦虹殑涔板崠锷涢噺鍜屼氦鏄撹屼负銆

阃氲繃瀵规湡璐ч愮玛鎴愪氦鏄庣粏镄勫垎鏋愶纴浜ゆ槗钥呭拰鎶曡祫钥呭彲浠ヨ幏鍙栦互涓嬫柟闱㈢殑淇℃伅锛

棣栧厛锛屼简瑙ｅ竞鍦虹殑鎴愪氦𨱍呭喌銆傞氲繃镆ョ湅鎴愪氦浠锋牸鍜屾垚浜ゆ暟閲忥纴鍙浠ュ垽鏂甯傚満镄勪环镙艰蛋锷垮拰浜ゆ槗娲昏穬搴︺

鍏舵★纴鍒嗘瀽甯傚満镄勪拱鍗栧姏閲忋傞氲繃缁熻′拱鍏ュ拰鍗栧嚭镄勬暟閲忓拰姣斾緥锛屽彲浠ヤ简瑙ｅ竞鍦虹殑澶氱┖鍙屾柟锷涢噺瀵规瘆锛屽垽鏂甯傚満镄勮蛋锷垮拰瓒嫔娍銆

鍐嶆★纴镰旂┒浜ゆ槗钥呯殑琛屼负鍜岀瓥鐣ャ傞氲繃鍒嗘瀽鎴愪氦璁板綍锛屽彲浠ヤ简瑙ｄ氦鏄撹呯殑涔板崠琛屼负鍜岀瓥鐣ワ纴鍙戠幇涓浜涙綔鍦ㄧ殑浜ゆ槗链轰细銆

链钖庯纴浼桦寲浜ゆ槗绛栫暐鍜岄庨橹绠＄悊銆傞氲繃瀵规湡璐ч愮玛鎴愪氦鏄庣粏镄勭爷绌讹纴鍙浠ュ彂鐜颁竴浜涘父瑙佺殑浜ゆ槗阌栾鍜岄庨橹锲犵礌锛屼粠钥屾敼杩涜嚜宸辩殑浜ゆ槗绛栫暐鍜岄庨橹绠＄悊鑳藉姏銆

⑻ 学python能做什么

一、常规软件开发

支持函数式编程和OOP面向对象编程，能够承担任何种类软件的开发工作，因此常规的软件开发、脚本编写、网络编程等都属于标配能力。

二、科学计算

随着NumPy, SciPy, Matplotlib, Enthought librarys等众多程序库的开发，Python越来越适合于做科学计算、绘制高质量的2D和3D图像。是一门通用的程序设计语言，比Matlab所采用的脚本语言的应用范围更广泛，有更多的程序库的支持。虽然Matlab中的许多高级功能和toolbox目前还是无法替代的，不过在日常的科研开发之中仍然有很多的工作是可以用Python代劳的。

三、人工智能

在人工智能大范畴领域内的机器学习、神经网络、深度学习等方面都是主流的编程语言，得到广泛的支持和应用。

四、WEB开发

基于Python的Web开发框架不要太多，比如耳熟能详的Django，还有Tornado，Flask。其中的Python+Django架构，应用范围非常广，开发速度非常快，学习门槛也很低，能够帮助你快速搭建起可用的WEB服务。

五、网络爬虫

也称网络蜘蛛，是大数据行业获取数据的核心工具。没有网络爬虫自动地、不分昼夜地、高智能地在互联网上爬取免费的数据，那些大数据相关的公司恐怕要少四分之三。能够编写网络爬虫的编程语言有不少，但Python绝对是其中的主流之一，其Scripy爬虫框架应用非常广泛。

六、数据分析

在大量数据的基础上，结合科学计算、机器学习等技术，对数据进行清洗、去重、规格化和针对性的分析是大数据行业的基石。Python是数据分析的主流语言之一。