189 8069 5689
golang net/http标准库的client是可以配置各种代理的，http/https/sock5等，不过fasthttp仅支持配置sock5代理，通过定义fasthttp dialfunc实现：
公司主营业务：网站设计制作、成都网站建设、移动网站开发等业务。帮助企业客户真正实现互联网宣传，提高企业的竞争能力。创新互联是一支青春激扬、勤奋敬业、活力青春激扬、勤奋敬业、活力澎湃、和谐高效的团队。公司秉承以“开放、自由、严谨、自律”为核心的企业文化，感谢他们对我们的高要求，感谢他们从不同领域给我们带来的挑战，让我们激情的团队有机会用头脑与智慧不断的给客户带来惊喜。创新互联推出灯塔免费做网站回馈大家。
项目中碰到的问题是，ops只提供了用squid搭建的http代理，所以是想重新定义一个http代理的dialfunc，找了fasthttp github仓库的issue，作者提供了一个dialFunc
经测试，访问https的站点是OK的，访问http的站点不行，代理连接不上。先说一下http/https代理的区别，再说原因。
使用代理访问https网站时，会先发CONNECT请求，让代理与目标站点建立一个http tunnel，之后在这个tunnel基础上进行传输，对应到上面的dialFunc过程就是：
可以看到http站点是不需要发CONNECT请求的，而是直接将目标站点的url作为path 填写在http请求头中。
为何上面的dialfunc访问http站点不行呢，查了squid代理的文档，发现squid默认会禁止非https站点通过CONNECT方法建立通道，自己搭了个squid代理去掉配置项，发现上面的dialfunc是可以访问http、https站点的，就是说http,https都先建立通过，再请求。
看了fasthttp的源码，没办法在请求前修改request header中的path为目标站点url，所以如果需要通过fasthttp使用http代理，那么可以使用上面的dialfunc，同时代理需要允许非443端口的站点可以建立通道。如果做不到这一点，那么还是建议使用标准库net/http的client，会更方便一点。
1、下载go的zip文件。并且一定要把文件解压到c:\go目录下。 2、配置windows的高级环境变量。包括：GOROOT、GOOS、GOBIN、GOARCH。并且在path变量里面把c:\go\bin加入。以便可以在命令行直接运行go命令。
上周从零学习了golang，语法简单关键字少，写个爬虫熟悉一下语法结构。
首先选用了原生的net/http包，基本上涵盖了所有的get/post请求，各种参数都可以设置，网上google到html页面解析goquery神器，很轻松就可以解决页面解析问题。
首先就写了个爬取汇率的爬虫。然后重写之前php的一个请求类，请求类的逻辑有点混乱不清晰，往往把两个不同的功能合并到一起写，粒度大，后来发现了一个好用的框架——colly，之后再试试好不好用
Windows 10 Golang
依赖包：goquery
较常用的方法有Find和Each
爬取中国银行的汇率牌价表，golang依赖net/http包和goquery包
唯一的难点是对于goquery方法的使用，需要阅读官方文档：
使用原生的net/http包基本上可以解决大多数的网页请求，使用goquery可以解决页面解析问题
可以利用golang的协程特性进行异步多协程爬取
增加安全性可以通过几个方面进行改进：
1.首先可以限制爬虫的爬取速度
2.每次对网页的请求都随机选用一个客户端
3.选用IP代理池，防止IP误封（及限制ip访问次数）
构造请求代理ip网站的链接→获取网页内容→ 提取网页中IP地址和端口号→验证IP的有效性并存储
轻量级反爬虫方案
浅谈JSP
golang带json的Http请求
Get/Post
HTTP请求中的Form Data和Request Payload的区别
HTTP Json请求
net/http：
golang HTTP操作
python建立爬虫代理ip池
爬虫黑科技之让你的爬虫程序更像人类用户的行为
特点：事件监听，通过callback执行事件处理
基于colly开发的web管理界面
go语言的官网是
Go语言是谷歌推出的一种全新的编程语言，可以在不损失应用程序性能的情况下降低代码的复杂性。谷歌首席软件工程师罗布派克(Rob Pike)说：我们之所以开发Go，是因为过去10多年间软件开发的难度令人沮丧。
Go是谷歌2009发布的第二款编程语言。2009年7月份，谷歌曾发布了Simple语言，它是用来开发Android应用
Go Logo
的一种BASIC语言.
北京时间2010年1月10日，Go语言摘得了TIOBE公布的2009年年度大奖。该奖项授予在2009年市场份额增长最多的编程语言。
谷歌资深软件工程师罗布·派克(Rob Pike)表示，“Go让我体验到了从未有过的开发效率。”派克表示，和今天的C++或C一样，Go是一种系统语言。他解释道，“使用它可以进行快速开发，同时它还是一个真正的编译语言，我们之所以现在将其开源，原因是我们认为它已经非常有用和强大。”
2007年，谷歌把Go作为一个20%项目开始研发，即让员工抽出本职工作之外时间的20%， 投入在该项目上。除了派克外，该项目的成员还有其他谷歌工程师也参与研发。
派克表示，编译后Go代码的运行速度与C语言非常接近,而且编译速度非常快，就像在使用一个交互式语言。现有编程语言均未专门对多核处理器进行优化。Go就是谷歌工程师为这类程序编写的一种语言。它不是针对编程初学者设计的，但学习使用它也不是非常困难。Go支持面向对象，而且具有真正的闭包(closures)和反射 (reflection)等功能。
在学习曲线方面，派克认为Go与Java类似，对于Java开发者来说，应该能够轻松学会 Go。之所以将Go作为一个开源项目发布，目的是让开源社区有机会创建更好的工具来使用该语言，例如 Eclipse IDE中的插件。
在谷歌公开发布的所有网络应用中，均没有使用Go，但是谷歌已经使用该语言开发了几个内部项目。派克表示，Go是否会对谷歌即将推出的Chrome OS产生影响，还言之尚早,不过Go的确可以和Native Client配合使用。他表示“Go可以让应用完美的运行在浏览器内。”例如，使用Go可以更高效的实现Wave，无论是在前端还是后台。
Go 同时具有两种编译器，一种是建立在GCC基础上的Gccgo，另外一种是分别针对64位x64和32位x86计算机的一套编译器(6g和8g)。谷歌目前正在研发其对ARM芯片和Android设备的支持。派克表示，“Android手机存在的问题是，我们一直没有一个数学协处理器。”