① 镐庝箞鐪嫔摢涓镶＄エ镄勬敹鐩婏纸镶＄エ鏀剁泭鍒嗘瀽鏂规硶璇﹁В锛
链鏂囧皢璇︾粏浠嬬粛镶＄エ鏀剁泭鍒嗘瀽鏂规硶锛屽府锷╄昏呬简瑙ｅ备綍鐪嫔摢涓镶＄エ镄勬敹鐩娿
镶＄エ鏀剁泭鏄鎸囱偂绁ㄥ湪涓瀹氭椂闂村唴镓銮峰缑镄勭泩鍒┿傝偂绁ㄦ敹鐩婂彲浠ュ垎涓轰袱绉嶈祫链鏀剁泭鍜岃偂鎭鏀剁泭銆傝祫链鏀剁泭鏄鎸囱偂绁ㄤ环镙间笂娑ㄦ墍甯︽潵镄勬敹鐩婏纴钥岃偂鎭鏀剁泭鍒欐槸鎸囱偂绁ㄥ垎绾㈡墍甯︽潵镄勬敹鐩娿傝偂绁ㄦ敹鐩婂垎鏋愭槸阃氲繃瀵硅偂绁ㄧ殑铡嗗彶浠锋牸鍜屽垎绾㈡暟鎹杩涜屽垎鏋愶纴
镶＄エ鏀剁泭鍒嗘瀽鏄镶＄エ鎶曡祫棰嗗烟镄勫熀纭鐭ヨ瘑涔嬩竴锛岄殢镌镶＄エ甯傚満镄勫彂灞曞拰鎶曡祫钥呭硅偂绁ㄦ敹鐩婄殑鍏虫敞搴﹀炲姞锛岃偂绁ㄦ敹鐩婂垎鏋愭柟娉曚篃涓嶆柇瀹屽杽銆傜幇浠ｈ偂绁ㄦ敹鐩婂垎鏋愭柟娉曞寘𨰾锘烘湰闱㈠垎鏋愩佹妧链鍒嗘瀽銆侀噺鍖栧垎鏋愮瓑銆
鐗瑰緛涓庣壒镣
镶＄エ鏀剁泭鍒嗘瀽鏂规硶鍏锋湁浠ヤ笅鐗圭偣
1.锘烘湰闱㈠垎鏋愭槸阃氲繃瀵瑰叕鍙哥殑璐㈠姟鏁版嵁銆佺粡钀ョ幆澧幂瓑锘烘湰闱㈠洜绱犺繘琛屽垎鏋愶纴
2.鎶链鍒嗘瀽鏄阃氲繃瀵硅偂绁ㄤ环镙肩殑铡嗗彶璧板娍杩涜屽垎鏋愶纴𨱒ラ勬祴镶＄エ链𨱒ョ殑璧板娍銆
3.閲忓寲鍒嗘瀽鏄阃氲繃瀵瑰ぇ閲忔暟鎹杩涜屽垎鏋愶纴
4.镶＄エ鏀剁泭鍒嗘瀽鏂规硶鍏锋湁涓瀹氱殑涓昏傛э纴闇瑕佹姇璧勮呭叿澶囦竴瀹氱殑涓扑笟鐭ヨ瘑鍜岀粡楠屻
镶＄エ鏀剁泭鍒嗘瀽鏂规硶骞挎硾搴旂敤浜庤偂绁ㄦ姇璧勯嗗烟锛屽寘𨰾镶＄エ鎶曡祫钥呫佸熀閲戠粡鐞嗐佽瘉鍒稿垎鏋愬笀绛夈傛姇璧勮呭彲浠ラ氲繃镶＄エ鏀剁泭鍒嗘瀽鏂规硶𨱒ラ夋嫨鍏锋湁娼滃姏镄勮偂绁ㄨ繘琛屾姇璧勚
镶＄エ鏀剁泭鍒嗘瀽鏄镶＄エ鎶曡祫棰嗗烟镄勯吨瑕佺爷绌舵柟钖戜箣涓锛岀洰鍓嶅凡缁忓舰鎴愪简涓濂楀畬鏁寸殑鐞呜烘嗘灦鍜岀爷绌舵柟娉曘傞殢镌澶ф暟鎹鍜屼汉宸ユ櫤鑳芥妧链镄勫彂灞曪纴镶＄エ鏀剁泭鍒嗘瀽鏂规硶涔熷湪涓嶆柇鍦版洿鏂板拰瀹屽杽銆
灞曟湜涓庡彂灞
链𨱒ワ纴镶＄エ鏀剁泭鍒嗘瀽鏂规硶灏嗕细镟村姞娉ㄩ吨鏁版嵁镄勬寲鎺桦拰鍒嗘瀽锛屼互鍙婂规湭𨱒ュ竞鍦鸿秼锷跨殑棰勬祴銆傚悓镞讹纴闅忕潃绉戞妧镄勫彂灞曪纴镶＄エ鏀剁泭鍒嗘瀽鏂规硶涔熷皢涓嶆柇鍦版洿鏂板拰瀹屽杽锛屼负鎶曡祫钥呮彁渚涙洿鍑嗙‘镄勬姇璧勫缓璁銆
② 基于微信大数据的股票预测研究
基于微信大数据的股票预测研究
大数据是近些年来的热门话题，无论国际上还是国内，影响很大。经济学、政治学、社会学和许多科学门类都会发生巨大甚至是本质上的变化和发展，进而影响人类的价值体系、知识体系和生活方式。而全球经济目前生成了史无前例的大量数据，如果把每天产生的大量数据比作神话时期的大洪水是完全正确的，这个数据洪流是我们前所未见的，他是全新的、强大的、当然，也是让人恐慌但又极端刺激的。
而我所分享的话题，正是在互联网环境下，如何利用大数据技术，进行股票预测的研究。–今天，我想分享我认为有意义的四点。
1.大数据下的商业预测
根据大数据，我们可以有效地进行故障、人流、流量、用电量、股票市场、疾病预防、交通、食物配送、产业供需等方面的预测。而本文我们所关心的内容是股票市场的预测。
大数据的核心是预测，预测依赖于对数据的分析。那么分析的方法是否是基于随机采样的结果而设计的，这样的分析方法是否会有误差？
从传统认识上，由于资源和科技的局限，如人和计算资源受限、从计算机处理能力来讲无法处理全部数据来获取人们所关注的结果。因此随机采样应运而生，通过所选取的个体来代表全体，如使用随机抽取的方式来使得推论结果更科学。但既然提到了大数据，它是资源发展到一定程度、以及技术发展到一定阶段产生的一个新的认识。如同电力的出现，使人类进入了一个快速发展阶段，大数据也一样，它的含义是全体样本，从整体样本来做推论。在本文大数据的含义是所有股票在整个社交网络上的流动信息，从数据源上讲，本文没有采用所有社交网络上的数据，只分析了微信这个最具代表性的社交媒体作为信息源。
互动数据能反映用户情绪，搜索数据能反映用户的关注点和意图，在股市预测时这两种数据哪种更具有参考价值？
我认为都有价值，互动数据反映了用户对某一特定股票的喜好和厌恶，可以简单描述为对该股票的操作是继续持有还是卖出；而搜索数据则代表用户在收集该股票信息的过程，它是关注度的概念，某只股票搜索度高则意味着消息的影响力大。互动代表着方向，搜索代表着振幅。
我们知道这两种数据得出的结论会有差异，您是如何平衡这两种数据反映的情况来进行预测的？
正如上一个问题里提到的，如果是股票推荐，买进卖出等原则问题，则应该考虑互动数据，但如果已经买到手了，搜索数据可以提供一个幅度的概念，类似债券评级A级、AA级、AAA级等，供投资者参考，因为不同投资者对风险的承受度是不同的。
将股票和市场的消息整理成140字的短消息发布，是否意味着主要发布渠道是微博？现在微信公众号很火，有没有考虑通过这个渠道也发布消息？
事实上，信息传播的方式很多，微信作为新媒体当然影响力不容小觑，但目前技术投入最小的还是邮件、短信等方式，未来会考虑使用公众号来推送股票和市场消息。
如果在未来通过微信公众号推送消息，那么推送的消息会不会作为数据来源被再次采集？这会有多大的影响？
会被采集，但互联网上的每日关于个股的信息数量会达到很大，该推送会增加推荐股票1点权重，每只股票的权重成百上千，因此影响极小。
数据来源是微信公众号，除了准确性的考虑之外，是否还考虑过这样收集数据会较少触犯个人隐私？
从法律角度来看，搜索微信或其他个人聊天记录，是侵犯个人隐私权的，因此如果腾讯开放了这样的接口，每个公民都可以对这样的行为进行投诉、抗议、甚至进行法律起诉直至其改正过错、赔偿损失的。
这样是否意味着即使存在违法的行为，其结果也是由腾讯来承担，而我们作为数据的使用方不需要承担任何法律责任？
在整个社会，我们作为系统技术提供方，应恪守大数据的伦理道德，遵守国家法律，如侵犯个人隐私，系统不会采集，谷歌有一句座右铭“谷歌不作恶”，本文提到的系统也一样。
2.基于大数据进行股票推荐实验
股票的及时度反应了微信文章所发布的时效性，及时度越高，数据价值就越大。
股票的热度反应了当前某只股票被关注的频度，关注频度越大，上涨的可能性越高。
数据的完整性：我们采用循环的方式对所有深沪两地发行约2236只股票（创业版除外）在微信搜索网站上的搜索结果进行保存。
数据的一致性：文件格式由负责保存数据文件的程序决定，单一的流程保障了文件的一致性。
数据的准确性：由于所分析的订阅号文章的是由微信公共平台的公众号所提供，在一定程度上杜绝了虚假消息对于预测系统的破坏。
数据的及时性：考虑到磁盘读写以及采集程序所处的网络带宽，以及搜索引擎对于采集程序的屏蔽，程序中采集两条信息之间间隔了5秒，因此理论上11180秒（3.1个小时）可收集完当日推荐所需要的数据。对于每个交易日，在9点-9点30分之间采集所有数据，需要7台以上的设备可达到最佳效果。本次试验受限于试验设备，在一台设备上，交易日每天早六时开始进行数据采集，也满足及时性要求。
数据分析：查看三个高优先级的股票，该股票当日的开盘价与收盘价，再与当日（2015-4-8）上证综指进行比较，可得在收益上该算法是优于上证综指为样本的整体股票的股价差收益的。
实验结论：按照上述方式，系统每天推荐出当日股票，在开盘时进行买进，在第二个交易日进行卖出。经过一个月21个交易日（2015-3-1至2015-3-31），系统的收益为20%/月。通过微信搜索公众号来预测市场走势和投资情绪呈现出正相关性，因此可以作为股票甄选的因子。
3.股票预测的大数据发展趋势
网络数据分成三种：
一是浏览数据，主要用于电商领域的消费者行为分析，浏览数据反映了用户每一步的访问脚步，进一步刻画出用户的访问路径，分析不同页面的跳转概率等。
二是搜索数据，主要指搜索引擎记录的关键词被搜索频次的时间序列数据，能反映数亿用户的兴趣、关注点、意图。
三是互动数据，主要是微博、微信、社交网站的数据，反映用户的倾向性和情绪因素。
2013年诺贝尔经济学奖得主罗伯特?席勒的观点被无数采访对象引述。席勒于上世纪80年代设计的投资模型至今仍被业内称道。在他的模型中，主要参考三个变量：投资项目计划的现金流、公司资本的估算成本、股票市场对投资的反应（市场情绪）。他认为，市场本身带有主观判断因素，投资者情绪会影响投资行为，而投资行为直接影响资产价格。
计算机通过分析新闻、研究报告、社交信息、搜索行为等，借助自然语言处理方法，提取有用的信息；而借助机器学习智能分析，过去量化投资只能覆盖几十个策略，大数据投资则可以覆盖成千上万个策略。
基于互联网搜索数据和社交行为的经济预测研究，已逐渐成为一个新的学术热点，并在经济、社会以及健康等领域的研究中取得了一定成果。在资本市场应用上，研究发现搜索数据可有效预测未来股市活跃度（以交易量指标衡量）及股价走势的变化。
对于搜索数据：互联网搜索行为与股票市场的关联机理。这个研究属于行为金融与互联网的交叉领域，其原理是：股票量价调整是投资者行为在股票市场上的反应；与此同时，投资者行为在互联网搜索市场也有相应地行为迹象，我们要做到是：找到互联网搜索市场中领先于股票交易的行为指标，综合众多投资者的先行搜索指标，对未来的股票交易做出预判。
如同天气预报那样，不断优化模型、灌入海量信息，然后给出结果。并且在处理的信息中，有80%是“非结构化”数据，例如政策文件、自然事件、地理环境、科技创新等，这类信息通常是电脑和模型难以消化的。采用了语义分析法，可以将互动数据里的金融对话量化为“-1（极度看空）”到“1（极度看多）”之间的投资建议，通过分析互动数据的数据文本，作为股市投资的信号。
4.正在发生的未来
大数据并不是一个充斥着算法和机器的冰冷世界，人类的作用依然无法被完全替代。大数据为我们提供的不是最终答案，只是参考答案，帮助是暂时的，而更好的方法和答案还在不久的将来。
大数据在实用层面的影响很广泛，解决了大量的日常问题。大数据更是利害攸关的，它将重塑我们的生活、工作和思维方式。在某些方面，我们面临着一个僵局，比其他划时代创新引起的社会信息范围和规模急剧扩大所带来的影响更大。我们脚下的地面在移动。过去确定无疑的事情正在受到质疑。大数据需要人们重新讨论决策、命运和正义的性质。拥有知识曾意味着掌握过去，现在则意味着能够预测未来。
大数据并不是一个充斥着算法和机器的冰冷世界，其中仍需要人类扮演重要角色。人类独有的弱点、错觉、错误都是十分必要的，因为这些特性的另一头牵着的是人类的创造力、直觉和天赋。这提示我们应该乐于接受类似的不准确，因为不准确正是我们之所以为人的特征之一。就好像我们学习处理混乱数据一样，因为这些数据服务的是更加广大的目标。必将混乱构成了世界的本质，也构成了人脑的本职，而无论是世界的混乱还是人脑的混乱，学会接受和应用他们才能得益。
我相信，利用基础数据、搜索数据、互动数据再进行加权计算，可以对所有股票进行大数据遴选，从而给出投资建议。我认为，我们的肉身刚刚步入大数据时代，但我们的精神还滞留在小数据、采样思维之中，率先用理性击碎固有思维的人，也将率先获得大数据带来的益处。
③ 如何用爬虫抓取股市数据并生成分析报表
1. 关于数据采集
股票数据是一种标准化的结构数据，是可以通过API接口访问的（不过一般要通过渠道，开放的API有一定的局限性）。也可以通过爬虫软件进行采集，但是爬虫软件采集数据不能保证实时性，根据数据量和采集周期，可能要延迟几十秒到几分钟不等。我们总结了一套专业的爬虫技术解决方案(Ruby + Sidekiq)。能够很快实现这个采集，也可以后台可视化调度任务。
2. 关于展现
网络股票数据的展现，网页端直接通过HTML5技术就已经足够，如果对界面要求高一点，可以采用集成前端框架，如Bootstrap；如果针对移动端开发， 可以使用Ionic框架。
3. 关于触发事件
如果是采用Ruby on Rails的开发框架的话，倒是很方便了，有如sidekiq, whenever这样子的Gem直接实现任务管理和事件触发。
④ 澶ф暟鎹鍒嗘瀽鏂规硶链夊摢浜
澶ф暟鎹鍒嗘瀽鏂规硶涓昏佸寘𨰾鎻忚堪镐у垎鏋愩侀勬祴镐у垎鏋愩佽勮寖镐у垎鏋愬拰璇婃柇镐у垎鏋愩
鎻忚堪镐у垎鏋涓昏佹槸瀵瑰凡缁忔敹闆嗗埌镄勬暟鎹杩涜屾荤粨鍜屽綊绾筹纴灞旷ず鏁版嵁镄勫熀链鐗瑰緛鍜岃秼锷匡纴渚嫔傚钩鍧囧笺佷腑浣嶆暟銆佹ā寮忓拰棰戠巼绛夈傝繖绉嶅垎鏋愬府锷╂垜浠鐞呜В杩囧幓鍜岀幇鍦ㄥ彂鐢熶简浠涔堬纴鏄澶ф暟鎹鍒嗘瀽镄勫熀纭姝ラゃ
棰勬祴镐у垎鏋鍒╃敤缁熻℃ā鍨嫔拰链哄櫒瀛︿範鎶链锛屽熀浜庡巻鍙叉暟鎹棰勬祴链𨱒ュ彲鑳藉彂鐢熺殑浜嬩欢銆备緥濡傦纴阌鍞棰勬祴銆佽偂绁ㄥ竞鍦鸿蛋锷块勬祴绛夈傞勬祴镐у垎鏋愰氲繃璇嗗埆鏁版嵁涓镄勬ā寮忓拰瓒嫔娍锛屼负鍐崇瓥钥呮彁渚涘叧浜庢湭𨱒ョ殑棰勬湡銆
瑙勮寖镐у垎鏋镟磋繘涓姝ワ纴涓崭粎棰勬祴链𨱒ワ纴杩樻彁鍑轰紭鍖栫瓥鐣ャ傚畠浣跨敤澶嶆潅镄勭畻娉曪纴濡傛ā𨰾熴佷紭鍖栧拰浜哄伐鏅鸿兘锛屾潵纭瀹氭渶浣冲喅绛栬矾寰勚傛瘆濡傚湪渚涘簲阈剧＄悊涓锛岃勮寖镐у垎鏋愬彲浠ュ缓璁浣曟椂銆佷綍鍦颁互鍙婂备綍鍒嗛厤璧勬簮浠ユ渶澶у寲鏁堢巼銆
璇婃柇镐у垎鏋鍒椤叧娉ㄦ暟鎹鑳屽悗镄“涓轰粈涔”銆傚畠阃氲繃娣卞叆鎺㈢┒鏁版嵁锛屾垒鍑洪梾棰樼殑铡熷洜锛屽府锷╂垜浠鐞呜В浜嬩欢鍙戠敓镄勫师锲犲拰链哄埗銆傝繖链夊姪浜庝紒涓氲瘑鍒闂棰桡纴鍒跺畾瑙ｅ喅闂棰樼殑绛栫暐銆
杩椤洓绉嶅垎鏋愭柟娉曞湪澶ф暟鎹鍦烘櫙涓鐩镐簰閰嶅悎锛屼负浼佷笟鎻愪緵鍏ㄩ溃镄勬礊瀵燂纴鏀鎸佹洿鏄庢櫤镄勫喅绛栵纴骞堕┍锷ㄤ笟锷″垱鏂板拰浼桦寲銆