杰 - C++博客

[zz] CVPR 2015 paper 下载

http://blog.csdn.net/lansatiankongxxc/article/details/45998527

cvpr2015列表已经出来提供下载，文件太多可以用迅雷或者wget直接下载
http://www.cv-foundation.org/openaccess/CVPR2015.py
但是这样全部下载还得一个一个翻看，于是乎写了个小程序专门选则自己方向的论文。
需要htmlparser解析网页代码，下载地址http://sourceforge.net/projects/htmlparser/files/htmlparser/
还有为了方便，直接把paper网页保存在D盘了。


import java.io.BufferedReader;
import java.io.FileOutputStream;
import java.io.InputStream;
import java.io.InputStreamReader;
import java.io.FileInputStream;
import java.io.File;
import java.net.URL;
import java.net.URLConnection;


import org.htmlparser.filters.TagNameFilter;
import org.htmlparser.nodes.TagNode;

import org.htmlparser.tags.LinkTag;
import org.htmlparser.util.NodeList;
import org.htmlparser.util.ParserException;


import org.htmlparser.Node;

import org.htmlparser.NodeFilter;
import org.htmlparser.Parser;
public class DownCVPR {


    /*
     * 建立个目录 D:/CVPR2015/Segmentation/
     * 页面保存位置
     *  String htmlName="D:\\CVPR 2015 Open Access Repository.htm";
     */
    static String saveDir="D:/CVPR2015/Segmentation/";
     public static String openFile( String szFileName ) {
            try {
                BufferedReader bis = new BufferedReader(new InputStreamReader(new FileInputStream( new File(szFileName))) );
                String szContent="";
                String szTemp;

                while ( (szTemp = bis.readLine()) != null) {
                    szContent+=szTemp+"\n";
                }
                bis.close();
                return szContent;
            }
            catch( Exception e ) {
                return "";
            }
        }

     static NodeFilter lnkFilter = new NodeFilter() {
          public boolean accept(Node node) {

           if(node instanceof LinkTag)
            return true;
           return false;
          }
         };
         private static void downloadNet(String urlString, String filename)  
            {  
                System.out.println("Begin to download " + urlString + "...");  

                int byteread = 0;  
                try  
                {  
                    URL url = new URL(urlString);  
                    URLConnection conn = url.openConnection();  
                    InputStream inStream = conn.getInputStream();  
                    FileOutputStream fs = new FileOutputStream(saveDir + filename);  

                    byte[] buffer = new byte[1204];  
                    while ((byteread = inStream.read(buffer)) != -1)  
                    {  
                        fs.write(buffer, 0, byteread);  
                    }  
                    fs.flush();  
                    fs.close();  
                    System.out.println("Success to download file...");  
                }  
                catch (Exception e)  
                {  
                    e.printStackTrace();  
                }  
            }  
    /**
     * @param args
     */
    public static void main(String[] args) {
        // TODO Auto-generated method stub
        String htmlName="D:\\CVPR 2015 Open Access Repository.htm";
        String content=openFile(htmlName);
        String paperPath[];
        String paperName[];
        String papertype="Segmentation";
        int paperNum=0;
        try {
            Parser parser = new Parser(content);
//          AndFilter filter = new AndFilter(new TagNameFilter("div"),   
//                  new HasAttributeFilter("id"));  
            TagNameFilter filter=new TagNameFilter("dt");
            NodeList nodes = parser.parse(filter); 
            System.out.println(nodes.size());
            paperNum=nodes.size();
            paperPath=new String[paperNum];
            paperName=new String[paperNum];
            for(int i=0;i<nodes.size();i++)
            {
                Node n=nodes.elementAt(i);
                Node cn=n.getLastChild();


                TagNode tn=new TagNode();
                tn.setText(cn.toHtml());

                //System.out.println(cn.getFirstChild().getText());
                paperName[i]=cn.getFirstChild().getText();
                paperPath[i]=tn.getAttribute("href").replaceAll(".html", ".pdf");
                paperPath[i]=paperPath[i].substring(paperPath[i].lastIndexOf("/")+1);

//              paperName[i]=path.substring(path.lastIndexOf("/")+1, path.indexOf(".html"));
//              System.out.println(paperName[i]);
            }

            String pre="http://www.cv-foundation.org/openaccess/content_cvpr_2015/papers/";
            for(int i=0;i<paperPath.length;i++){
                //String name=paperPath[i].substring(paperPath[i].lastIndexOf("/")+1, paperPath[i].indexOf(".html"));
                if(paperName[i].indexOf(papertype)>=0||paperName[i].indexOf(papertype.toLowerCase())>=0){
                    String name=name=paperPath[i].substring(paperPath[i].lastIndexOf("/")+1);
                    System.out.println(paperName[i]);
                    downloadNet(pre+paperPath[i], name) ;

                }
                else{
                    continue;
                }
                System.out.println(i);
            }


        } catch (ParserException e) {
            // TODO Auto-generated catch block
            e.printStackTrace();
        }

    }

}

附CVPR2015图像分割相关文章：
http://pan.baidu.com/s/1kTHzppd

posted @ 2015-05-26 10:43 杰哥阅读(574) | 评论 (0) | 编辑收藏

Alternating optimization

Composite Quantization for Approximate Nearest Neighbor Search (ICML 2014)该文第三页左侧，倒数第五行提到alternative optimization；NeNMF: An Optimal Gradient Method for Nonnegative Matrix Factorization, 该文第二页，公式2上面两行，block coordinate descent，以公式2和3为例；Feature Fusion Using Locally Linear Embedding for Classification提到的参考文献Some Notes on Alternating Optimization;Two-Dimensional Linear Discriminant Analysis的第四页提到的Due to the difficulty of computing the optimal L and R simultaneously, we derive an iterative algorithm in the following.
我个人理解，这几个概念都是等价的。

‘alternating optimization’ or ‘alternative optimization’?

Sue (UTS) comment: ‘Alternating’ means you use this optimization with another optimization, one after the other. ‘Alternative’ means you use this optimization instead of any other.

我的GSM-PAF最后用的‘alternating optimization’

posted @ 2015-05-24 12:58 杰哥阅读(2121) | 评论 (0) | 编辑收藏

[zz] 专家观点碰撞：深度学习能否取代其他机器学习算法

http://www.csdn.net/article/2015-05-15/2824688

摘要：深度学习在最近两年非常火爆，但深度学习能否取代其他机器学习算法？纽约大学研究生Ran Bi根据Quora上的一个讨论总结了不同的观点，CSDN编辑将其翻译如下，并加上一些国内人工智能专家的观点，供大家参考。

【编者按】深度学习在最近两年非常火爆，但深度学习能否取代其他机器学习算法？纽约大学研究生Ran Bi根据Quora上的一个讨论总结了不同的观点，CSDN编辑将其翻译如下，并加上一些国内人工智能专家的观点，供大家参考。

深度学习迅速地成长起来了，并且以其疯狂的实证结果着实令我们惊奇。Quora上有一个关于深度学习是否会让其他的机器学习算法过时的讨论。特别地，相关的算法，如反向传播、HMM会像感知机一样过时吗？

这很难回答。Google DeepMind研发工程师Jack Rae对此有一个有趣的回答：

过去几年的实证结果已经表明，当数据集足够大时，深度学习提供了最好的预测能力。但这是真的吗？我知道的一个例子，去年它并未达到对一个超过1亿行数据集的预测能力。

他认为深度学习之所以会导致其他学习算法濒临灭绝，是因为深度学习具备非常卓越的预测能力，尤其是对大中型数据集的预测。当人们开始考虑使用深度学习作为解决一些问题如模式识别的第一选择时，其他算法将过时。

另一方面，大多数人仍然相信深度学习不会取代所有其他模型和算法。斯坦福大学人工智能研究生Jacob Steinhart的观点收到了最多的点赞。他写道：

1、对于许多应用程序，使用更简单的算法像逻辑回归和支持向量机可以工作的很好,而使用深度神经网络只会使事情变得复杂。
2、然而深度神经网络（deep belief networks ）是最好的一个不可知域算法，如果你有领域知识的话，那么使用其他算法，如用于语音识别的HMM、用于图形压缩并识别的小波算法等，就可以表现更好。已经有一些工作把这些领域知识合并到神经网络模型，但是这还是不足以完全取代所有其他的模型和算法。

以上是由Eren Golge创立的机器学习的时间表。

深度学习将成为主流，就像在20世纪早期初迅速提高的SVM（支持向量机）一样。然而，在深度学习成为机器学习算法的第一选择之前，深度学习的复杂性以及其大量数据的需求仍需解决。

作者简介：Ran Bi，纽约大学的数据科学计划的硕士研究生，已经完成了机器学习、深度学习和大数据分析领域的好几个项目。

原文链接：Will Deep Learning take over Machine Learning, make other algorithms obsolete?（翻译：王辉）

其他专家观点：

余凯，百度深度学习研究院（IDL）常务副院长：

深度学习已经在取代其他的机器学习算法，或者说兼容其他算法，并且最终将可能成为一个包容其他算法的机器学习框架。关键在于，深度学习的数学框架本质上和其他算法是一样的，可以退化成传统算法。因为深度学习是一个很灵活的框架，当处理小数据的时候，可以根据实际需求采用比较浅的网络结构。

邹永强，腾讯数据平台部精准推荐中心深度学习方向负责人

我估计只有少数deep learning的粉丝会认可DL可以取代其他算法，另外也要看业务领域。

李成华，京东深度神经网络（深度学习）实验室首席科学家

目前，深度学习的应用场景主要在图像、语音、视频广告等领域，但有些业务应用，如购物篮分析，还没听说用深度学习的。
还有个主要问题：深度学习门槛较高，硬件要求也高，相比传统机器学习算法与Hadoop结合不友好。
但从准确率来说，随着深度学习技术成熟，取代很多传统机器学习算法是必然的。如分类、聚类、预测、推荐和搜索等，都有从传统机器学习往深度学习转的趋势。

王浩，宝宝树数据&算法工程师

产业界，深度学习应用绝大多数都是有监督的机器学习，研究界更多的是研究无监督式的深度学习技术。本质上，有监督的机器学习相对已经非常成熟，只需要更多、更好质量的数据，就能轻易的战胜复杂的非监督深度学习。所以，我觉得，不会代替，得看具体的应用场景。有的时候，杀鸡需要用牛刀，但有的场景，杀鸡绝对不需要用牛刀。

Tomasz Malisiewicz, vision.ai Co-founder, Robotics PhD, Computer Vision Expert

我预测，每隔10~15年，神经网络将经历以下循环：他们将被遗忘10余年，正如人们感到兴奋的大型凸优化问题，然后慢慢的以一个新的、性感的名称（例如深度学习）回归。我怀疑，只要Hinton、LeCun、Bengio和他们的门徒还在（他们很可能会以不断增加），这就会发生！

（责任编辑：周建丁）
阅读记录：read twice

posted @ 2015-05-16 10:10 杰哥阅读(193) | 评论 (0) | 编辑收藏

深度学习

深度学习调参经验
深度学习调参经验http://t.cn/RZKJL9I。之前没有注意的有：1、梯度要除以batch size 2、尝试多种权重初始化方式 3、当使用RNN或者LSTM的时候，要对梯度最大值作限制，不要超过15或者5（根据经验人为调整） 4、尝试dropout，且要比平时要多点迭代。这一切的前提是你有台非常牛逼的电脑[拜拜][拜拜]

深度学习资源博客Random Thoughts http://rt.dgyblog.com/ref/ref-learning-deep-learning.html

Reference: 机器学习早报

芝加哥大学研究人员提出一种新型卷积神经模型FractalNet

芝加哥大学的研究人员发表了一份论文《FractalNet: Ultra-Deep Neural Networks without Residuals》，介绍了一种无残差的超深卷积神经网络FractalNet，他们实验证明残差值并不是创建超深卷积神经网络的关键，Fractal 网络可以被视为每一层子网络深度隐形联合起来的运算效率。在Fractal 网络架构下做一些子路径的扩展，子网络能有更快的运算性能和更精准的训练结果。有兴趣的读者请阅读原文：www.arxiv.org/pdf/1605.07648v1.pdf。

Reference: http://mini.eastday.com/a/160531103419897-3.html

posted @ 2015-05-14 09:50 杰哥阅读(264) | 评论 (0) | 编辑收藏

[zz]matlab图像滤波

clc;
clear;
I=imread('a.jpg');             %读取图像
K1=medfilt2(I,[10 10]);          %中值滤波
h1=ones(5,5)/25;
K2=imfilter(K1,h1);       %均值滤波
figure, imshow(K2), title('滤波后的图像')

posted @ 2015-05-11 20:33 杰哥阅读(321) | 评论 (0) | 编辑收藏

[zz]SIFT作者David Lowe 总结的国际计算机视觉公司列表 The Computer Vision Industry

http://www.cs.ubc.ca/~lowe/vision.html

The Computer Vision Industry

David Lowe

This web page lists companies that develop computer vision products. Computer vision (also often referred to as "machine vision" for industrial vision applications) is the automated extraction of information from images. This differs from image processing, in which an image is processed to produce another image. This page covers only products based on computer vision, and it does not cover image processing or any of the many suppliers of sensors or other equipment to the industry.

Companies are categorized under their principal application area, and then listed alphabetically. Companies are listed only if they have web pages giving information about their products. Please let me know of any links that are missing.

Automotive driver assistance and traffic management

Image Sensing Systems (St. Paul, Minnesota). Real-time traffic management using roadside cameras. License plate recognition systems.

Iteris (Santa Ana, California). Real-time traffic management and signaling using video detection.

MobilEye (Jerusalem, Israel). Vision systems that warn automobile drivers of danger, provide adaptive cruise control, and give driver assistance such as active braking. Systems are currently available in certain cars from BMW, Volvo, GM, and others.

TrafficVision (Pendleton, South Carolina). Real-time traffic management using computer vision.

Eye and Head Tracking

Gazepoint (Vancouver, Canada). Low-cost eye-trackers for consumer and research applications.

Mirametrix (Montreal, Canada). Free-head eye-tracker.

Smart Eye (Göteborg, Sweden). Systems to track eye and gaze position. Applications include detection of drowsiness or inattention in drivers.

SMI (Berlin, Germany). Eye and gaze tracking systems.

Film and Video: Sports analysis

Prozone (Leeds, UK). Systems for tracking sports players and the ball in real time for match analysis.

Hawkeye (Winchester, UK). Uses multiple high-speed cameras to provide precise tracking of the ball in tennis, cricket, and other sports for refereeing and analysis.

PlayfulVision (Lausanne, Switzerland). Provides real time, automatic video analytics and statistics for team-sports.

QuesTec (Deer Park, New York). Systems for tracking sports action to provide enhanced broadcasts.

Sportvision (New York, NY). Vision systems to provide real-time graphics augmentaion for sports broadcasts.

Vizrt (Bergen, Norway). Creates 3D graphics for television broadcasts. Includes Viz Libero computer vision product for 3D visualization of sporting events.

Film and Video

2d3 (Oxford, UK). Systems for tracking objects in video or film and solving for 3D motion to allow for precise augmentation with 3D computer graphics.

Image Metrics (Manchester, England). A markerless tracking system for the human face that can be used to map detailed motion and facial expressions to synthetic characters.

Imagineer Systems (Guildford, UK). Computer vision software for the film and video industries.

MirriAd (London, UK). Uses computer vision methods to track consistent regions in video and insert virtual advertising.

Gesture Recognition

GestureTek (Toronto, Canada). Tracks human gestures for playing grames or interacting with computers.

Microsoft Kinect (Redmond, Washington). Provides full-body motion sensing and gesture recogntion for the Xbox gaming system and other applications.

PointGrab (Tel Aviv, Israel). Gesture recognition for control of computers and other devices.

General purpose vision systems

Cognex (Natick, Massachusetts) is one of the largest machine vision companies. Develops systems for inspection, assembly, localization tasks, and many other areas.

InfoDif (Ankara, Turkey). Vision systems for broad range of industries and applications.

MathWorks (Natick, Massachusetts). Matlab modules and components for computer vision applications.

Matrox Imaging (Dorval, Canada). Software and hardware for machine vision applications.

National Instruments (Austin, Texas). Vision software and systems used for many applications, including inspection, biomedical, and security.

Neptec (Ottawa, Canada). Laser-based 3D vision systems for use on the space shuttles and other applications.

Newton Research Labs (Renton, Washington). Vision systems for precision inspection, non-contact measurement, and robotics.

Point Grey Research (Vancouver, Canada). Real-time stereo vision systems, spherical vision systems, and imaging hardware.

RSIP Vision (Jerusalem, Israel). Customized vision systems for medical, industrial, and other applications.

Seeing Machines (Canberra, Australia). Systems for tracking faces and eye gaze direction for human-computer interaction.

Soliton (Bangalore, India). Smart cameras for industrial inspection and other applications.

SpikeNet (Toulouse, France). Trainable vision systems for performing recognition.

ViSSee (Lugano, Switzerland). Developing a low-cost real-time sensor for measuring speed using an approach modeled on vision in the fruit fly.

VISIONx (Pointe-Claire, Quebec, Canada). Vision systems for high accuracy measurement and other applications.

Vitronic (Wiesbaden, Germany). Vision systems for inspection, manufacturing, logistics, traffic management, and other applications.

Industrial automation and inspection: Electronics industry

KLA-Tencor (San Jose, California). Systems for inspection and process control in semiconductor manufacturing.

Orbotech (Yavne, Israel). Automated inspection systems for printed circuit boards and flat panel displays.

Industrial automation and inspection: Food and agriculture

Montrose Technologies (Ottawa, Canada). Vision systems for the baked goods industry. Systems monitor bake color, shape, and size of bread, cookies, tortillas, etc.

Ellips (Eindhoven, The Netherlands). Vision systems for inspecting and grading fruits and vegetables.

Industrial automation and inspection: Printing and textiles

Advanced Vision Technology (Hod Hasharon, Israel). Systems to inspect output from high-speed printing presses.

Elbit Vision Systems Ltd. (Yoqneam, Israel). Vision systems for textile inspection and other applications.

Mnemonics (Mt. Laurel, New Jersey). Vision systems for print quality inspection and other applications.

Xiris Automation (Burlington, Ontario, Canada). Inspection for the printing and packaging industries.

Industrial automation and inspection: Other

Adaptive Vision (Gliwice, Poland). Data-flow based software for machine vision engineers.

Adept (Pleasanton, California). Industrial robots with vision for part placement and inspection.

Avalon Vision Solutions (Lithia Springs, Georgia). Vision systems for the plastics industry.

Basler (Ahrensburg, Germany). Inspection systems for optical media, sealants, displays, and other industries.

Hermary Opto Electronics (Coquitlam, BC, Canada). Develops 3D scanners for sawmills and other applications.

JLI vision (Soborg, Denmark). Vision systems for industrial inspection tasks, including food processing, glassware, medical devices, and the steel industry.

LMI Technologies (Vancouver, Canada). Develops 3D vision systems using laser sensors for inspection of wood products, roads, automotive manufacturing, and other areas.

Lucidyne (Corvallis, Oregon). Vision systems for inspecting and grading lumber.

MVTec (Munich, Germany). Vision systems for inspection and other applications.

NeuroCheck GmbH (Remseck, Germany). Inspection systems for quality control.

Perceptron (Plymouth, Michigan). Creates 3D laser scanning systems for automotive and other applications.

PPT Vision (Eden Prairie, Minnesota). Vision systems for automotive, pharmaceutical, electronics, and other industries.

Seegrid (Pittsburgh, PA). Industrial mobile robots that use vision for mapping and navigation.

SIGHTech (San Jose, California). Trainable computer vision systems for inspection and automation.

Virtek Vision International (Waterloo, Ontario, Canada). Laser-based inspection and templating systems.

Wintriss Engineering (San Diego, California). Vision systems for suface inspection and sports vision applications.

Medical and biomedical

Claron Technology (Toronto, Canada). Uses real-time stereo vision to detect and track the pose of markers for surgical applications.

Edao (Paris, France). System for monitoring patients in nursing care.

LookTel (Los Angeles, California). Software for mobile devices to assist the visually impaired. Current products include visual recognition of paper currency, and object recognition.

Mirada Medical (Oxford, UK). Software for medical image analysis and diagnosis based on computer vision research.

Orcam (Jerusalem, Israel). Text reading, face recognition, and other assistance for visually impaired users. Uses glasses with a camera to view the scene.

Object Recogntion and AR for Mobile Devices

A9 (Palo Alto, California). Image recognition and product search for camera phones. Owned by Amazon.

Augment (Paris, France). Platform to provide real-time augmented reality for mobile devices.

Imagemetry (Prague, Czech Republic). Develops computer vision applications for mobile devices.

Layar (Amsterdam, The Netherlands). Augmented reality platform for smartphones.

Metaio (Munich, Germany). Augmented reality SDK for mobile devices, as well as other augmented reality hardware and software solutions.

Mobile Acuity (Edinburgh, UK). Visual product recognition and search for mobile devices.

SuperFish (Palo Alto, California). Computer vision for mobile devices, including Visual product recognition.

Wikitude (Salzburg, Austria). Platform and apps for augmented reality on mobile devices.

People tracking

Brickstream (Atlanta, GA). Tracking people within stores for sales, marketing, and security.

Reveal (Auckland, New Zealand). Systems for counting and tracking pedestrians using overhead cameras.

Sightcorp (Amsterdam, The Netherlands). Systems for face and crowd analysis.

VideoMining (State College, PA). Tracking people in stores to improve marketing and service.

Photography

Algolux (Montreal, Canada). Computational photography to improve image quality on mobile devices.

Cloudburst Research (Vancouver, Canada). Develops AutoStitch Panorama, which provides fully automatic image stitching for the iOS platform.

Kolor (Challes les eaux, France). Develops the Autopano Pro software for automated panorama stitching of digital images. Also provides high-dynamic-range imaging by combining multiple exposures.

Safety monitoring

Poseidon (Boulogne, France). The Poseidon System monitors swimming pools to warn of accidents and drowning victims.

Security and Biometrics

Aimetis (Waterloo, Ontario, Canada). Systems for intelligent video surveillance.

Aurora (Northampton, UK). Systems for biometric face recognition.

Briefcam (Jerusalem, Israel). Develops software for summarization of long surveillance video in a short summary video.

Cognimatics (Lund, Sweden). Detection and counting of people and vehicles in video streams.

Digital Persona (Redwood City, California). Fingerprint recognition systems.

EVITECH (Paris, France). Smart video surveillance systems.

Equinox (New York, NY). Security systems using novel sensors, such as registered visible and thermal infrared images and use of polarized lighting.

Genetec (Montreal, Canada). Security systems for license plate recognition, surveillance, and access control.

IntelliVision (San Jose, California). Automated monitoring systems, including face and object recognition.

ObjectVideo (Reston, Virginia). Automated video surveillance products for tracking, classification, and activity recognition.

Sighthound (Menlo Park, California). Detection and monitoring of people in video streams.

Three-dimensional modeling

Eos Systems (Vancouver, Canada). PhotoModeler software allows creation of texture-mapped 3-D models from a small number of photographs. Also provides accurate photogrammetric 3D measurements from multiple images of a scene.

Creaform (Quebec City, Canada). Develops 3D scanners for the human body and other applications.

Web and Cloud Applications

Incogna (Ottawa, Canada). Develops a system for image search on the web. Uses GPUs for increased performance.

LTU Technologies (Paris, France). Image retrieval based on content.

Megvii (Beijing, China). Deep learning for face recognition in the cloud.

Taaz (San Diego, California). Virtual makeover website uses computer vision methods to allow users to try on makeup, hair styles, sunglasses, and jewelery.

Some other sources of information:

Machine Vision Online

UK Industrial Vision Association

posted @ 2015-05-03 12:18 杰哥阅读(426) | 评论 (0) | 编辑收藏

[zz] 计算机领域的H-index

UCLA的Jens Palsberg根据Google Scholar建立了一个计算机领域的H-index牛人列表：http://t.cn/hBzFxN 。我们熟悉的各个领域的大牛绝大多数都在榜上，包括1位诺贝尔奖得主，35位图灵奖得主，近百位美国工程院/科学院院士，300多位ACM Fellow。但一个有趣的现象是图灵奖得主们的H-Index比预想的要偏低

posted @ 2015-04-27 10:00 杰哥阅读(377) | 评论 (0) | 编辑收藏

两个较好的人脸检测测评类网站

两个较好的人脸检测测评类网站，里面有算法比较和部分paper、代码：《Fine-grained evaluation of face detection in the wild》http://t.cn/RAYsBLB 和《Face Detection Data Set and Benchmark》http://t.cn/zH0uIuC。当前微众银行拒测率达到30%：http://t.cn/RwQxZ9x。
fine-gained评估更细致，分析不同分辨率、角度、性别、年龄等条件下的算法准确率；百度IDL当时是最好的，几乎所有任务都比picasa明显好?Fully Convolutional neural network做人脸检测几乎是效果最好的算法,虽然速度有点慢。
不同的应用对于速度要求是不一样的。比如嵌入式系统，那就要求算法短小精悍，速度快。对于后台计算资源丰富的应用，就可以用 Fully Convolutional neural network 这样的算法

posted @ 2015-04-25 10:12 杰哥阅读(201) | 评论 (0) | 编辑收藏

[zz] VC维的来龙去脉

摘要: http://www.flickering.cn/machine_learning/2015/04/vc%E7%BB%B4%E7%9A%84%E6%9D%A5%E9%BE%99%E5%8E%BB%E8%84%89/ 目录：说说历史Hoeffding不等式Connection to Learning学习可行的两个核心条件Effective Number of HypothesesGrowth ... 阅读全文

posted @ 2015-04-24 18:36 杰哥阅读(442) | 评论 (0) | 编辑收藏

[zz] 机器学习最佳入门学习资料汇总

http://article.yeeyan.org/view/22139/410514

译者： teyla 原作者：Jasonb

发表时间：2014-06-05浏览量：17031评论数：2挑错数：0

专为机器学习初学者推荐的优质学习资源，帮助初学者快速入门。

这篇文章的确很难写，因为我希望它真正地对初学者有帮助。面前放着一张空白的纸，我坐下来问自己一个难题：面对一个对机器学习领域完全陌生的初学者，我该推荐哪些最适合的库，教程，论文及书籍帮助他们入门？

资源的取舍很让人纠结，我不得不努力从一个机器学习的程序员和初学者的角度去思考哪些资源才是最适合他们的。

我为每种类型的资源选出了其中最佳的学习资料。如果你是一个真正的初学者，并且有兴趣开始机器学习领域的学习，我希望你能在其中找到有用的东西。我的建议是，选取其中一项资源，一本书，或者一个库，从头到尾的读一边，或者完成所有的教程。选定一个后坚持学习，等到完全掌握以后，再选取另一个资源按同样的方法学习。现在开始吧。

程序库

我信奉这么一句话：学到一定程度后，你需要开始尝试做事。这就是我怎么学会编程的，并且我确信其他大部分的人也是这么学会的。要知道自己的极限，激发自己的能量。如果你知道怎么编程，你就能快速深入到机器学习的学习中。然后制定一个计划，在你实现一个工程系统前学习完这项技术相关的数学知识。

找一个库，先阅读其文档，然后就可以照着指南尝试做一些事情了。以下是最优秀的机器学习库开源代码。我并不认为这些库适用于你的工程项目，但是它们非常适合学习，开发及建模。

先选择一个你熟悉的语言对应的库，然后再尝试其他更功能强大的库。如果你是个很好的程序员，你应该知道你可以很容易的从一种语言切换到另一种语言。程序逻辑都是一样的，只是语法和API的区别而已。

R Project for Statistical Computing（用于统计计算的R工程）：这是一个软件环境，采用类lisp脚本语言。提供了你想要的所有统计相关的东西，包括非常赞的绘图。CRAN（第三方机器学习包）的机器学习分类下有该领域专家们编写的代码，最新的接口方法和其他你能想到的功能都可以在上面找到。如果你想快速建模并开发，R工程是必学的。不过你不一定从一开始就从这个工程学起。

WEKA：数据挖掘平台，提供了API，一些命令行及整个数据挖掘生命周期的图像化用户接口。你可以准备数据，进行可视化开发，创建分类、回归、集群模型和很多内嵌及第三方组件提供的算法。如果你需要基于Hadoop平台工作，那么Mahout就是一个很好的机器学习java框架，这个框架和和WEKA不相关。但如果你是大数据和机器学习的新手，那么还是坚持看WEKA，记得一次只学一样东西。

Scikit Learn：机器学习Python库，依赖Numpy和Scipy库。如果你是Python或者Ruby程序员，这个库比较合适。该库接口友好，功能强大，且有完善的文档支持。如果你想尝试其他东西，那么Orange将是一个不错的选择。

Octave：如果你熟悉MatLab或者你是Numpy程序员且正尝试寻找一些不一样的东西，那么可以考虑Octave。它提供了跟Matlab相似的数据计算环境，并且可以很简单的通过编程解决线性及非线性的问题，这些问题是大部分机器学习算法的基础。如果你有工程师背景，你可以从这里开始学起。

BigML：可能你不想做任何的编程，那么你可以全部使用工具，比如WEKA。你还可以更深一步并使用像BigML一样的服务，BigML提供了web版的机器学习接口，开发及创建模型可以全部在浏览器上完成。

选取其中一个平台用于机器学习的实战练习。不要只是看，要做。

视频课程

现在很流行通过观看视频来学习机器学习。我在YouTube和VideoLectures.Net上看了很多机器学习的视频，看视频的风险在于你很容易只是看而不会去实践。我建议在看视频的时候一定要做好笔记，即便之后你很快就会把笔记扔掉。同时建议你不管在学什么，一定要去动手尝试。

坦白来说，我看过的视频中，没有哪个视频是特别适合初学者的，我指真正的初学者。他们都是基于读者有最基本的线性代数和概率理论知识的假设。斯坦福大学Andrew Ng 的教程可能是最适合用于入门的了，另外，我推荐了一些一次性视频。

Stanford Machine Learning（斯坦福机器学习）：通过Coursera可以获取到，Andrew Ng主讲。除了招生，你可以在任何时间看到所有的课程，并且从Stanford CS229 course（斯坦福CS229课程）上下载到所有的讲义和课堂笔记。课程包括家庭作业，测试。课程集中在线性代数上，使用Octave环境。

Caltech Learning from Data：可以在edX访问到，Yaser Abu-Mostafa主讲。所有的课程和材料在CalTech网站上都可以获取到。和斯坦福课程一样，你可以按你自己的节奏来完成家庭作业和任务。它覆盖了和斯坦福类似的课程，然后在细节上有一些深入，并且用了更多的数学方面的知识。家庭作业对初学者来说可能太难了。

Machine Learning Category on VideoLectures.Net（VideoLectures.Net上的机器学习分类）：初学者很容易沉溺于海量的内容中。你可以找寻一些看起来比较有趣的视频，然后尝试看看。如果不是你现阶段能看懂的，就先放放。如果你看着合适，就记笔记。我发现我自己总是不断的找寻自己感兴趣的标签，然后最终选择了完全不同的标签。当然，看看该领域专家真正是什么样的也挺好的。

“Getting In Shape For The Sport Of Data Science” – Talk by Jeremy Howard：和一个本土R用户团队关于机器学习实践应用的对话，这个团队在机器学习竞赛中获取了很好的成绩。这个视频很有用，因为很少有人去讲将机器学习应用到一个项目中真正是什么样的，及怎么去做这个项目。我幻想着能创建一个网络真人TV秀，这样可以能直接看到选手机器学习竞赛中的表现。我是多么的向往啊。

论文概述

如果你不习惯读研究性论文，你将会发现他们的语言非常枯燥。论文像是教科书的片段，但是论文描述了实验，或者是该领域其他前沿研究。不过，如果你正要开始学习机器学，这里有一些论文可能会引起你的兴趣。

The Discipline of Machine Learning（机器学习的原则）：机器学习原则定义的白皮书，作者Tom Mitchell. 当时有一场辩论，Mitchell最终说服CMU主席成立单独的机器学习机构，以保证机器学习将在今后的100年里作为一个学科存在。（也可参考短片Tom Mitchell访谈）。

A Few Useful Things to Know about Machine Learning（一些你必须知道的关于机器学习的事）：这是一篇好论文，因为它不拘泥于特定的算法，而是偏向于比如特征选取概述和模型简化这些重要的问题上。走对方向并且从一开始就想清楚，都是很好的事情。

上面我只罗列了两篇重要的论文，因为读论文会真的让你陷入困境。

机器学习初学者书籍

市面上有很多机器学习的书，但很少有针对初学者编写的。什么才是真正的初学者？可能是从其他领域转入机器学习的，也可能是从计算机科学，软件编程或者统计学转入的。即使这样，大部分的书籍都会认为你至少已经有了线性代数和概率论的知识背景。

然而，这里还是有一些书鼓励有兴趣的程序员从一个最小的算法开始学习，指定工具和库，这样编程人员就可以运行程序并得出结果。最著名的有Programming Collective Intelligence（中文版：《集体智慧编程》）、Machine Learning for Hackers（中文版《机器学习：实用案例解析》）和Data Mining: Practical Machine Learning Tools and Techniques（中文版《数据挖掘:实用机器学习技术》），以上三本分别基于Python，R和Java三种语言。如果有不懂的地方，可以参见这三本书。

[![Books for Machine Learning Beginners](http://machinelearningmastery.com/wp- content/uploads/2013/11/photo-300x225.jpg)](http://machinelearningmastery.com /wp-content/uploads/2013/11/photo.jpg)

Programming Collective Intelligence（中文版：《集体智慧编程》）：创建精巧的web 2.0应用：这本书是专门为编程人员写的，轻理论，重实战，有大量的代码示例，实际上遇到的web问题及对应的解决方案。买这本书的读者，建议边读边做练习！

Machine Learning for Hackers（中文版：《机器学习：使用案例解析》）：我建议在读完Programming Collective Intelligence以后再来读这本书。该书同样提供了大量的实用性很强的案例。但是它有更多数据分析的东西并且使用R语言。我真心喜欢这本书。

Machine Learning: An Algorithmic Perspective：这本书像是Programming Collective Intelligence的升级版。这两本书的目标相同（帮助程序员入门），但是这本书包含了数学和参考文献，同时也有用Python写的示例和代码片段。我建议读者先看Programming Collective Intelligence，如果看完以后还有兴趣，再来看这本书。

Data Mining: Practical Machine Learning Tools and Techniques, Third Edition（中文版：《数据挖掘：实用机器学习技术》）：实际上我是从这本书开始学起的，2000年的第一版。当时我还是个java程序员，由于WEKA库提供了很好的开发环境，我利用这本书结合WEKA库进行尝试，用自己的算法做了插件并作了大量的机器学习应用，同时延伸到数据挖掘部分。因此我强力推荐这本书和这种学习方法。

Machine Learning（中文版：《机器学习》）：这本书比较老，包含了公式和很多的参考文献。虽然是本教科书，但是每个算法的实用性依然非常强。

很多人能列举出很多优秀的机器学习教科书，我也可以。这些书的确很棒，只是个人觉得对初学者来说不太好入门而已。

扩展阅读

这篇文章经过我仔细推敲，为了确保自己没有漏掉任何一点重要的东西，我同时也看了其他人列出的资源。为了使内容更全面，这里再列出一些网上其他优秀的机器学习入门资源列表。

A List of Data Science and Machine Learning Resources：很详细的资源列表，花点时间读读作者的建议，再看看其中的链接。很值得一看。

What are some good resources for learning about machine learning? Why?：这个问答的第一个答案很不错，每次读我都会做笔记并打上标签。这个答案里面最有价值的部分是机器学习课程的笔记列表及Q&A页面的相关文章列表。

Overwhelmed by Machine Learning: is there an ML101 book?：一个StackOverflow上的帖子，上面确实列出了很多推荐的机器学习书籍列表，第一个回帖的是Jeff Moser，罗列了很多课程视频和谈话。

你是否已经看过或者用过这些资源呢？你觉得怎么样？

我不知道我是否为有兴趣学习机器学习的程序员提供了真正有用的资源，有任何问题和建议，请留下宝贵留言！

posted @ 2015-04-23 09:19 杰哥阅读(278) | 评论 (0) | 编辑收藏

常用链接

留言簿(57)

随笔分类

随笔档案

相册

Other

Paper submission

福彩

留学相关

论坛

搜索

学者

邮箱

中科大和中科院

搜索

最新评论

阅读排行榜

评论排行榜

David Lowe