机器学习发展前沿

机器学习发展前沿（通用9篇）

机器学习发展前沿 篇1

数学专业发展前沿学习心得

李阳 数学0801 40763014

数学源自于古希腊语，是研究数量、结构、变化以及空间模型等概念的一门科学。透过抽象化和逻辑推理的使用，由计数、计算、量度和对物体形状及运动的观察中产生。数学的基本要素是：逻辑和直观、分析和推理、共性和个性。

数学，作为人类思维的表达形式，反映了人们积极进取的意志、缜密周详的逻辑推理及对完美境界的追求。虽然不同的传统学派可以强调不同的侧面，然而正是这些互相对立的力量的相互作用，以及它们综合起来的努力，才构成了数学科学的生命力、可用性和它的崇高价值。

基础数学的知识与是个人与团体生活中不可或缺的一部分。其基本概念的精炼早在古埃及、美索不达米亚 及古印度内的古代数学文本内便可观见。从那时开始，其发展便持续不断地有小幅度的进展，直至16世纪的文艺复兴时期，因着和新科学发现相作用而生成的数学革新导致了知识的加速，直至今日。

今日，数学被使用在世界不同的领域上，包括科学、工程、医学和经济学等。数学对这些领域的应用通常被称为应用数学，有时亦会激起新的数学发现，并导致全新学科的发展。数学家也研究纯数学，也就是数学本身，而不以任何实际应用为目标。虽然许多以纯数学开始的研究，但之后会发现许多应用。

1.运筹与最优化

1）历史上的运筹·最优化问题 古老的运筹问题：道路交通设计

今有物不知其數，三三數之剩二；五五數之剩三；七七數之剩二，問物幾何？

2）运筹学的应用领域：

军事

经济

计划

金融

物理

化学

生物

信息

分类 人工智能

图像处理

数字信号处理 医疗

社会学 天文

工业设计

航空航天

农业

通信 等等 3）从线性规划到整数规划

线性规划的可行域为空间中的超多面体； 求解线性规划的迭代法： Fourier-Motzkin 消去法 单纯形方法 椭球法

内点法（障碍法）单纯形法

Dantzig, 1947: 单纯形法；

Lemke, 1954;Beale, 1954: 对偶单纯形法； Dantzig, 1953: 改进单纯形法 椭球法

Shor, 1970-1979 Yudin & Nemirovskii, 1976 Khachiyan, 1979 M.Grötschel, L.Lovász, A.Schrijver, 1988 给定一个线性规划，如何能求得一个可行解？ 求解线性规划的迭代法：

Fourier-Motzkin 消去法：不会再有人用了 单纯形方法：很不错 对偶单纯形方法：更好 椭球法：理论上还算有意思 内点法/障碍法：经常是最快的 能够在较短时间内求解的LP规模

500,000 个变量

5,000,000 个约束

比较容易解的整数规划： 最小支撑树；

匹配问题；

最大流问题；

最小费用流问题； 整数规划问题的解法：

分支定界；

割平面。TSP问题及其应用 上界：近似求解方法 下界：LP松弛

TSP问题的工业应用：芯片制造 打孔

2.数学中的“混沌”

混沌是指发生在确定性系统中的貌似随机的不规则运动，一个确定性理论描述的系统，其行为却表现为不确定性--不可重复、不可预测，这就是混沌现象。进一步研究表明，混沌是非线性动力系统的固有特性，是非线性系统普遍存在的现象。牛顿确定性理论能够充分处理的多为线性系统，而线性系统大多是由非线性系统简化来的。因此，在现实生活和实际工程技术问题中，混沌是无处不在的。

1972年12月29日，美国麻省理工学院教授、混沌学开创人之一E.N.洛伦兹在美国科学发展学会第139次会议上发表了题为《蝴蝶效应》的论文，提出一个貌似荒谬的论断：在巴西一只蝴蝶翅膀的拍打能在美国得克萨斯州产生一个龙卷风，并由此提出了天气的不可准确预报性。时至今日，这一论断仍为人津津乐道，更重要的是，它激发了人们对混沌学的浓厚兴趣。与我们通常研究的线性科学不同，混沌学研究的是一种非线性科学，而非线性科学研究似乎总是把人们对“正常”事物“正常”现象的认识转向对“反常”事物“反常”现象的探索。例如，孤波不是周期性振荡的规则传播；“多媒体”技术对信息贮存、压缩、传播、转换和控制过程中遇到大量的“非常规”现象产生所采用的“非常规”的新方法；混沌打破了确定性方程由初始条件严格确定系统未来运动的“常规”，出现所谓各种“奇异吸引子”现象等。

混沌来自于非线性动力系统，而动力系统又描述的是任意随时间发展变化的过程，并且这样的系统产生于生活的各个方面。混沌系统对初始条件很敏感。

3.多尺度数学方法在材料科学凝固过程中的应用

1）数学流体力学发展历史的回顾

主要是航空航天产业的百年辉煌，从人类历史上第一次飞行到向宇宙深处的不断探索，涉及到了理想不可压缩流体的绕流问题。2）材料科学中金属凝固理论研究进展

背景：材料是人类文明的物质基础，是社会进步和高新技术发展的先导。自20世纪70年代开始，人们把信息、能源和材料誉为人类文明的三大支柱，80年代以来又把新材料技术与信息技术、生物技术列为高新技术革命的重要标志。新材料技术的研究、开发与应用反映了一个国家的科学技术和工业化水平。

典型凝固加工的加工技术、理论体系和工艺技术：

理论进展有：

a． 液固相变形核理论-----1940s-50s年代，Turnbull建立了液—固相变中的形核理论

b． 晶体界面生长动力学理论-----1951年Burton、Cabrera和Frank 建立了晶体光滑界面的结构模型与生长动力学理论

c.成分过冷理论-----1953年Chalmers等提出了界面稳定性概念和成分过冷理论，揭示单相凝固组织出现复杂形态的内在原因 d.界面稳定性线性动力学理论-----1963和1964年Mullins和Sekerka 提出界面稳定性的线性动力学理论,确立界面稳定性与溶质边界层、温度梯度和界面能的关系。目前的研究方法：

（1）实验方法

合金成分的优化、组织性能的测试、组织形态的形成机制（2）数值模拟的方法

计算材料科学、利用相场法模拟组织与形态等（3）数学物理的方法

利用数学方法建立数学模型，分析求解微分方程

3）多尺度数学方法数学在材料科学凝固过程中的应用-----数学物理中的渐近方法

研究背景：新材料的开发与应用，提出了大量的旨在探究与揭示现象的物理本质与机制的基础性课题。对各种形态材料生长系统中的研究，人们发现，复杂纷纭、形态各异地出现在自然界的动力学现象，能呈现出一些普遍的共性特征。服从于具有相似的数学形式的规律； 并且能运用共同的数学概念、途径、工具进行研究。一些重要的、基础研究领域与学科方向：

微米尺度上的材料生长与制备过程动力学的研究； 纳米尺度上的材料生长与制备过程动力学的研究； 宏观尺度上的材料生长与制备过程动力学的研究。

4.现代控制理论

1）定义：现代控制理论是建立在状态空间法基础上的一种控制理论，是自动控制理论的一个主要组成部分。在现代控制理论中，对控制系统的分析和设计主要是通过对系统的状态变量的描述来进行的，基本的方法是时间域方法。现代控制理论比经典控制理论所能处理的控制问题要广泛得多，包括线性系统和非线性系统，定常系统和时变系统，单变量系统和多变量系统。它所采用的方法和算法也更适合于在数字计算机上进行。现代控制理论还为设计和构造具有指定的性能指标的最优控制系统提供了可能性。

2）现代控制理论的发展过程：现代控制理论是在20世纪50年代中期迅速兴起的空间技术的推动下发展起来的。空间技术的发展迫切要求建立新的控制原理，以解决诸如把宇宙火箭和人造卫星用最少燃料或最短时间准确地发射到预定轨道一类的控制问题。这类控制问题十分复杂，采用经典控制理论难以解决。1958年，苏联科学家庞特里亚金提出了名为极大值原理的综合控制系统的新方法。1960～1961年，美国学者R.E.卡尔曼和R.S.布什建立了卡尔曼-布什滤波理论,因而有可能有效地考虑控制问题中所存在的随机噪声的影响，把控制理论的研究范围扩大，包括了更为复杂的控制问题。到60年代初，一套以状态空间法、极大值原理、动态规划、卡尔曼-布什滤波为基础的分析和设计控制系统的新的原理和方法已经确立。

现代控制理论所包含的学科内容十分广泛,主要的方面有:线性系统理论、非线性系统理论、最优控制理论、随机控制理论和适应控制理论。

线性系统理论是现代控制理论中最为基本和比较成熟的一个分支，着重于研究线性系统中状态的控制和观测问题，其基本的分析和综合方法是状态空间法。

5.微分方程理论与应用

1）主要内容：边界层传输问题研究

2）研究方向：常微分方程、泛函微分方程的稳定性与定性理论、解析数论及其应用、非牛顿流体力学、生物数学

3）研究内容：非线性传输问题的动力学基础及定性行为；传输问题非线性微分方程的近似解析分析方法；分形介质动力学与分数维粘弹性流体的解析理论；微分方程非线性边界值问题；微分方程理论在非线性动力学系统中的应用研究等

4）边界层传输问题研究：研究背景、数学描述、实验台的搭建与测试方法、数值模拟、理论分析和近似计算

5）边界层：流体在大雷诺数下绕壁面流动时，可把流体的粘性和导热看成集中作用在流体壁面的薄层，即边界层内

6）研究背景：边界层传输问题研究内容，边界层传输问题大多通过分析边界层内微元体的动量、热量和质量守恒，采用一组非线性偏微分方程组进行数学描述；

求解通量守恒方程组来分析确定边界层内速度、温度和浓度分布，探析边界层内剧烈的动量、热量和质量传递规律。得出工程中需要的重要参数——物面上的摩擦阻力和传热量。

7）边界层问题研究：研究背景、数学描述、实验台的搭建与测试方法、数值模拟、理论分析和近似计算

8）利用拆分思想改进同伦分析方法，定义并建立了同伦拆分法。基于一系列合理的假设，完成同伦拆分方法的收敛性的证明，首次为使用提供了理论依据。利用收敛定理求解实际流体边界层问题，验证了理论研究的科学性和有效性，初步做到理论与实际结合。9）渐近方法在边界层问题中应用 求解思路：本课题是非牛顿磁性流体边界层问题上的渐近解研究，求解思路是先引入流函数利用李群变换对现有的边界层无量纲非线性偏微分方程组进行转化，转化成一个常微分方程，将一个描述边界层流动的偏微分方程转化成非线性边值问题来求解；然后同伦分析方法进行求解.研究幂率速度运动表面非牛顿磁流体边界层问题，结合Adomian拆分方法和同伦拆分方法进行求解。随磁场参数 的增加，壁摩擦力增大；随幂律指数的增大，壁摩擦力减小。磁性参数M的增加，壁面摩擦力增大（两种相符）。随磁性参数M的增加，流体无量纲速度变小。

心得收获：

通过小学期的学习，我了解了本专业的培养目标，基本规格，培养目标，就业状况以及学习专业知识的基本要求和能力素质等。在专业学习中，我们应该运用所学的知识进行创造性思维，提出新思路，拓宽思路。平时多参加数学建模，计算机应用大赛等，提高自己的动手的实践能力与思维能力。总之，通过学习我们要培养自己良好的数学素质，能运用所学的知识与技能去分析和解决相关的实际问题，成为一名专业知识精深的人才。

物理学前沿学习心得 篇2

专业班级：物联网13-01 姓 名：司文哲 学 号：311309080116

物理学前沿这门课是我看名字就选的一门选修课，因为本身对于物理拥有极大的兴趣，喜欢物理这门学科，并且还因为对物理前沿的知识感到好奇和前沿物理学的研究对世界的改变让我感到惊奇而选的这门课。在上前几节课的时候，一直听老师讲的是有关物理学历史的问题，这让我有困惑和不解，为什么报了个物理学前沿却在这听物理学历史，后来在一节课中老师也说到这个问题，然后思考过后，才觉得对于物理学的历史学习还是很有必要的，有助于整个对物理学的发展有个看法和了解，这样对物理学前沿问题才会感到有兴趣。经过4个星期的上课，多多少少也了解了点屋里前沿知识的大概皮毛，这篇心得就把老师提到的几个21世纪物理学的发展方向以及各个前沿的基本概念、前景总结一下，也算是对物理学前沿这门课程的学习总结。

在查阅物理前沿的资料之前，我先对有一节课老师放的宇宙的视频说一点我对宇宙的看法和认识，我觉得我们生活在繁杂世界中，纷纷扰扰，喜怒哀乐，总以为人才是世界的中心，殊不知这是多么渺小的想法。一个大自然就能轻轻松松把人类毁灭，更不用说浩瀚无边的宇宙了，宇宙就像心胸广袤，坐定如山的巨大长者。又如各个地方都在发生着变换，停歇不得的魔鬼。我们对宇宙的认识从华夏大地的人们认为的盖天说和巴比伦的拱形天地被大海环绕的世界，到无锡拉人从美学观念觉得地球是圆形的，认为天体和我们居住的大抵都是圆形的，再到地心说，日心说和万有引力定律的发现，再到发现银河系以外的星系，期间经过了人类多少的努力和困难，才认识到我们生活千万年的外界是什么东西，然而宇宙却千万年间一直在这里，巍然无比，让人心生敬畏。

21世纪物理学发展的前景还是非常巨大的，有许多我认为改变世界的发现还在研究当中在本篇中我查阅一些物理前沿的研究分支，作为自己简单的学习。

1.暗物质和暗能量

暗能量和暗物质是一种不可见的、能推动宇宙运动的能量，宇宙中所有的恒星和行星的运动皆是由暗能量与万有引力来推动的。根据“普朗克”探测器收集的数据，科学家对宇宙的组成部分有了新的认识，宇宙中普通物质和暗物质的比例高于此前假设(73%)，而暗能量这股被认为是导致宇宙加速膨胀的神秘力量则比想象中少，占不到70%。]暗能量是宇宙学研究的一个里程碑性的重大成果。支持暗能量的主要证据有两个。一是对遥远的超新星所进行的大量观测表明，宇宙在加速膨胀。按照爱因斯坦引力场方程，加速膨胀的现象推论出宇宙中存在着压强为负的“暗能量”。暗能量是什么，它的存在意味着什么？科学家才刚开始尝试回答这些问题。暗能量对宇宙整体的作用泄漏了它的行踪，而人们逐渐意识到，暗能量不仅对整个宇宙有影响，似乎也能操控宇宙的居民，指引恒星、星系和星系团的演化进程。虽然以前并没有意识到暗能量对这些结构的影响，但天文学家们几十年来一直在研究它们的演化过程。

讽刺的是，暗能量的无处不在，反而让人们很难意识到它的存在。暗能量与物质不同，它是均匀分布的，不会在某个地方聚集成团。不论是在你家的厨房，还是在星际空间，暗能量的密度都完全一样，约为10^-26千克/立方米，相当于几个氢原子的质量。太阳系中所有的暗能量加起来，与一颗小行星的质量差不多，在行星的“舞蹈”中，几乎起不了作用。只有在巨大的空间尺度上和时间跨度上，才能体现出暗能量的影响力。

2.广义相对论

广义相对论是阿尔伯特·爱因斯坦于1916年发表的用几何语言描述的引力理论，它代表了现代物理学中引力理论研究的最高水平。广义相对论将经典的牛顿万有引力定律包含在狭义相对论的框架中，并在此基础上应用等效原理而建立。在广义相对论中，引力被描述为时空的一种几何属性（曲率）；而这种时空曲率与处于时空中的物质与辐射的能量-动量张量直接相联系，其联系方式即是爱因斯坦的引力场方程（一个二阶非线性偏微分方程组）。

3.量子力学

量子力学是研究微观粒子的运动规律的物理学分支学科，它主要研究原子、分子、凝聚态物质，以及原子核和基本粒子的结构、性质的基础理论，它与相对论一起构成了现代物理学的理论基础。量子力学不仅是近代物理学的基础理论之一，而且在化学等有关学科和许多近代技术中也得到了广泛的应用。在许多现代技术装备中，量子物理学的效应起了重要的作用。从激光、电子显微镜、原子钟到核磁共振的医学图像显示装置，都关键地依靠了量子力学的原理和效应。对半导体的研究导致了二极管和三极管的发明，最后为现代的电子工业铺平了道路。在核武器的发明过程中，量子力学的概念也起了一个关键的作用。

在上述这些发明创造中，量子力学的概念和数学描述，往往很少直接起了一个作用，而是固体物理学、化学、材料科学或者核物理学的概念和规则，起了主要作用，但是，在所有这些学科中，量子力学均是其基础，这些学科的基本理论，全部是建立在量子力学之上的。以下仅能列举出一些最显著的量子力学的应用，而且，这些列出的例子，肯定也非常不完全。

4.粒子物理学

研究比原子核更深层次的微观世界中物质的结构、性质，和在很高能量下这些物质相互转化及其产生原因和规律的物理学分支。又称高能物理学。

5.超对称

超对称是费米子和玻色子之间的一种对称性，该对称性至今在自然界中尚未被观测到。物理学家认为这种对称性是自发破缺的。大型强子对撞器将会验证粒子是否有相对应的超对称粒子这个疑问。我们知道，基本粒子按照自旋的不同可以分为两大类： 自旋为整数的粒子被称为玻色子，自旋为半整数的粒子被称为费米子，这两类粒子的基本性质截然不同。超对称便是将这两类粒子联系起来的对称性-而且是能做到这一点的唯一的对称性。

6.凝聚态物理

凝聚态物理的研究对象除晶体、非晶体与准晶体等固相物质外还包括从稠密气体、液体以及介于液态和固态之间的各类居间凝聚相，例如液氦、液晶、熔盐、液态金属、电解液、玻璃、凝胶等。经过半个世纪的发展，凝聚态物理学取得了巨大进展，研究对象日益扩展，更为复杂。一方面传统的固体物理各个分支如金属物理、半导体物理、磁学、低温物理和电介质物理等的研究更深入，各分支之间的联系更趋密切；另一方面许多新的分支不断涌现，如强关联电子体系物理学、无序体系物理学、准晶物理学、介观物理与团簇物理等。从而使凝聚态物理学成为当前物理学中最重要的分支学科之一，从事凝聚态研究的人数在物理学家中首屈一指，每年发表的论文数在物理学的各个分支中居领先位置。有力的促进了诸如化学、物理、生物物理学和地球物理等交叉学科的发展。

7.量子计算机

量子计算机是一个崭新的领域，大概只有10年之久，目标是建造一台量子元件的计算机。量子计算机是一类遵循量子力学规律进行高速数学和逻辑运算、存储及处理量子信息的物理装置。当某个装置处理和计算的是量子信息，运行的是量子算法时，它就是量子计算机。量子计算机的概念源于对可逆计算机的研究。研究可逆计算机的目的是为了解决计算机中的能耗问题。

8.高温超导体

新的和更高温度超导体的探索工作一直在紧张地进行着。因为高温超导理论还没有很好的建立，探索工作的进展是缓慢的。虽然新超导体和更高温度超导性时有报道，但真正的新突破还没有取得。我们相信，曾在铜氧基高温超导体领域中取得过骄人成就的炎黄子孙，一定会在实现人类室温超导体梦想的征途上作出更为辉煌的贡献。

对于老师提到的几个物理学前沿难题，我大概记住了以上几个，并且从网上查阅资料有关各个前沿分支的简介，以及研究意义和对世界科技、社会发展所带来的诸多可能和改变，其实对于物理学前沿来说，我更关注的是他的研究意义和作用，或许因为我还不是一个研究人员，没有找到那种对未解知识的疯狂注意集中力和好奇心。在最开始对物理学前沿感兴趣就是因为我觉得前沿物理能带给我们世界太多关于生产、科技、哲学、社会以及人们的思想产生巨大的改变。

学习国际前沿教学法心得体会 篇3

2014年10月22日、24日连续2天参加了国际前沿教学法“精品课程”和专项“培育人才能力的探讨”的学习，此次培训，收获很大。

首先，对职业教育的人才培养目标有了一个清晰的认识。一直以来，认为职业教育就是培育熟练的技术工人，但是国外的职业教育已经实现从最初的培养熟练的技术工人到培养工程师的跨越，从学术殿堂转换成科技的摇篮。我国在2014年2月26日的会议中也提出：中国的职业教育要培养创新型人才。中国职教的培养目标也已经向培育学生多元智能发展。中国职业教育培养目标的转变，对于教师来讲，需要更大的改变，不能仅仅教会学生所以然，还要在教学过程中教导学生研发的方法、创新的能力。教师决不能用过去学习的东西，教现在学生，用于未来的应用。专业需要养分，教师应利用多种机会学习先进的知识和企业的现实需求。学习的机会，一方面需要教师自身去创造，一方面需要学校的倾力协助，双管齐下，才能打造一个优秀的教师团队，培养创新型人才。

其次，培养人才的模式，较成功的有德国的招考训用的双元模式，也有台湾的成功办学模式，每一种成功的办学模式都离不开“校企合作”这一重要环节。校企合作在中国职业院校践行多年，在少子化的社会环境下，谁的校企合作愈成功，谁的生源愈好。这就是职业院校培育人才和企业需求相契合的结果。这次培训，学到了职业院校的优良制度保障体系对校企合作的护航。下面以台湾明治科技大学的模式分享一下我的心得： 校企合作的前期准备：安全的讲习非常重要！即使是最优秀的职业院校，它的特色办学有时也是用血淋淋的代价换来的。例如：台湾明治科技大学用1-2年的时间派学生去企业实习，在实习过程中，曾出现过学生手被压伤的安全事故，国内铁道学院的学生在实习中曾被高压电击伤。最后的结果，学生可能会将学校诉之公堂。但难道因为会出现安全事故就否定这种校企合作的模式吗？答案是不是的，成功的办学要推行先进的模式，用制度来完善这种模式，用完备的制度保驾护航。这个制度需要系部和学院的共同努力。

校企合作前期的实务实习：面试、简历、劳动法的学习。这正是我院开设的形式政策、大学生生涯规划课程所讲授的内容。能够预先带领学生学习。

校企合作的实习过程:以学生为中心，考量学生实习内容、每月进行一次辅导、信息反馈，包括企业的满意度。企业满意度直接影响我们未来的发展，千里之堤毁于蚁穴，今天企业降低1%的满意度，明天我们学生的就业率可能会降2%，这是一个不容忽视的问题。提高企业的满意度，需要学校有一个完备的方案去评估和改进。

通过培训学习，更加理解了作为一名教师的责任，在今后的工作中，要多学习，多实践，为培养优秀人才尽力。

食品工程系

求真务实促发展(思想前沿) 篇4

坚持求真务实，是坚持马克思主义科学世界观和方法论的本质要求。“求真务实”是对马克思主义哲学，特别是对其认识论的精神实质和精辟概括。它体现了马克思主义所要求的理论和实践，知和行的具体的历史的统一。所谓“求真”，也就是“求是”，这个“是”就是事物的本质及事物的内在规律。所谓“务实”，则是要在这种规律性认识的指导下，去做、去实践。求真与务实的统一，是马克思主义认识论的必然要求与本质体现。

2013年，我们在“开源节流、注重效率”的指导思想下，整个集团上下做了大量的工作，也取得了一定的成绩。特别是在制度建设上，通过从上到下的制度督查工作，找出了存在的问题，并提出了改进的意见，使制度建设往更规范的方向发展。但也不可否认地指出，2013年的工作还有许多不尽人意的地方，有待于新的一年不断提高和改进。这种提高和改进就需有一种求真务实的精神和态度。只有这样，2014年的工作才能有一个明确的发展方向和行动指南。

2014年是党的十八届三中全会后改革力度较大的一年，这一年对企业来说，既是机遇，又是挑战。所谓机遇，因为改革是各种利益的再分配，在改革中如何获得企业利益是每一个企业都应考虑的问题，谋划得好，利益就大一些。谋划得差，利益就小一些，或没有利益。特别是在城镇化建设的大潮中，作为建筑企业如何把握机遇，获得最佳的利益，是每个建筑企业都应面对和考虑的问题。所谓挑战，是在激烈的市场竞争中，面对全方位的改革，企业应如何适应和生存，并面对挑战，这也是每个企业面临的重大课题。针对机遇和挑战，企业自己也要进行不断的改革，以调整自己的发展方向和经营策略，有了这种未雨绸缪的思想准备，企业才能立于不败之地。

在改革之年的机遇与挑战面前，我们每个企业都应根据自己的发展情况，进行一次全面的分析，这种分析就更需要有一种求真务实的精神和态度。这里所说的求真就是要认真分析企业现在面临的真实情况，既要看到企业发展中好的一面，更要分析企业面临的困境和困难，从中找出制约企业发展的根本性问题。问题找得越准，就越有利于采取有效的措施。找准问题后，就要以务实的态度去做、去实践，这个去做、去实践，就是要针对存在的根本性问题，对症下药地采取有效措施。这种求真务实的精神和态度，说起来很容易，做起来却很难，要做好就更难。但不这样做，问题就会更严重，甚至会更糟糕。

以上分析只是对企业共性的分析，而作为我们企业自身，虽然风风雨雨地走过了2013年，但面对改革之年的2014年，也应求真务实地作一次系统的分析和诊断，以找出存在的根本性问题。找出问题不是企业的目的，我们的根本目的是要解决问题，使企业更稳步、更健康地向前发展。2014年是我们企业发展进程中十分重要的一年，这一年务必要认真和谨慎地解决好每个发展环节，尽量做到不断链、不掉链，实实在在地把企业往前推。

机器学习发展前沿 篇5

4月1日,观看了贵州省“新时代学习大讲堂”时代前沿知识专题讲座第二期《大数据：技术与应用》为题的知识讲座，讲座由省委常委、常务副省长、贵阳市委书记李再勇主持。中国科学院院士，北京理工大学党委常委、副校长，贵州省大数据产业发展应用研究院院长梅宏从认识大数据、应对大数据、应用大数据、现状与思考四个方面作了讲解。知识讲座观看完后浅谈一下个人学习体会：

“信息时代的到来，我们感受到的是技术变化日新月异，随之而来的是生活方式的转变，我们这样评论着的信息时代已经变为曾经。如今，大数据时代成为炙手可热的话题。

《大数据时代》第16页“大数据的核心就是预测”。逻辑是——描述时空信息“类”与“类”之间长时间有效不变的先后变化关系规则。信息和数据的定义。维基百科解释：信息，又称资讯，是一个高度概括抽象概念，是一个发展中的动态范畴，是进行互相交换的内容和名称，信息的界定没有统一的定义，但是信息具备客观、动态、传递、共享、经济等特性却是大家的共识。数据：或称资料，指描述事物的符号记录，是可定义为意义的实体，它涉及到事物的存在形式。它是关于事件之一组离散且客观的事实描述，是构成信息和知识的原始材料。数据可分为模拟数据和数字数据两大类。数据指计算机加工的“原料”，如图形、声音、文字、数、字符和符号等。从定义看来，数据是原始的处女地，需要耕耘。信息则是已经处理过的可以传播的资讯。信息时代依赖于数据的爆发，只是当数据爆发到无法驾驭的状态，大数据时代应运而生。

机器学习发展前沿 篇6

水文学的发展及其所面临的若干前沿科学问题

通过回顾水文学的发展史,指出客观上总是存在着两条相辅相成、互相促进、不断提高的.水文学发展轨迹.通过归纳水文学已取得的主要学术成就,认为物理学的渗透和本构关系的揭示是水文学理论进步的重要条件.当今水文学面临的若干困惑,主要来自对其本构关系的研究相对薄弱,由此凝炼出水文学的前沿科学问题主要是:非线性问题、尺度转换问题、空间变异性问题、坡面流速问题、确定性与随机性互补问题、水文时间序列长期演变规律问题、“异参同效”问题、预测模型问题、时空探源问题和误差问题等.加强或重视对这些前沿科学问题的研究,将会有力地促进水文学的理论和应用水平不断提高.

作 者：芮孝芳 刘方贵 邢贞相 RUI Xiao-fang LIU Fang-gui XING Zhen-xiang  作者单位：河海大学水资源环境学院,江苏,南京,210098 刊 名：水利水电科技进展  ISTIC PKU英文刊名：ADVANCES IN SCIENCE AND TECHNOLOGY OF WATER RESOURCES 年，卷(期)： 27(1) 分类号：P33 关键词：水文学   本构关系   非线性   尺度转换   空间变异性   确定性   随机性   异参同效  

机器学习报告 篇7

刘皓冰

大部分人错误地以为机器学习是计算机像人一样去学习。事实上，计算机是死的，怎么可能像人类一样“学习”呢，机器学习依靠的是数学，更确切地说是靠统计。

如果我们让计算机工作，是给它一串指令，然后计算机会遵照这个指令一步步执行下去，有因有果，非常明确。但这种方式在机器学习中是行不通的。机器学习是不会接受你输入的指令的，它接受的是你输入的数据。也就是说，机器学习是一种让计算机利用数据而不是指令来进行各种工作的方法。这听起来非常不可思议，但结果上却是非常可行的。“统计”思想将在你学习“机器学习”相关理念时无时无刻不伴随，相关而不是因果的概念将是支撑机器学习能够工作的核心概念。

依据数据所做的判断跟机器学习的思想根本上是一致的。机器学习方法是计算机利用已有的数据(输入)，得出了某种模型，并利用此模型预测未来(输出)的一种方法。从数据中学得模型的过程称为“学习”（learning）或“训练”（training），这个过程通过执行某个学习算法来完成。训练过程中使用的数据成为“训练数据”（training data），其中每个样本称为一个“训练样本”（training sample），训练样本组成的集合称为“训练集“（training set）。学得模型对应了关于数据的某种潜在的规律，因此亦称”假设“（hypothesis）；这种潜在规律自身，则称为”真相“或”真实“（ground-truth），学习过程就是为了找出或逼近真相。模型有时也被称为”学习器“（learner），可看作学习算法在给定数据和参数空间上的实例化。

若欲预测的是离散值则此类学习任务被称为“分类”；若欲预测的是连续值则此类学习任务称为“回归”；对只涉及两个类别的“二分类”任务，通常称其中一个类为“正类”，另一个类为“反类”；涉及多个类别时，则称为“多分类”任务。

模型是否准确依赖与数据。如果我的数据越多，我的模型就越能够考虑到越多的情况，由此对于新情况的预测效果可能就越好。这是机器学习界“数据为王”思想的一个体现。一般来说(不是绝对)，数据越多，最后机器学习生成的模型预测的效果越好。

机器学习里面有非常多的经典算法，每种算法都能形成一个模型。下面在简要介绍一下机器学习中的经典代表方法。重点介绍的是这些方法内涵的思想。

1、回归算法 在大部分机器学习课程中，回归算法都是介绍的第一个算法。原因有两个：一.回归算法比较简单，介绍它可以让人平滑地从统计学迁移到机器学习中。二.回归算法是后面若干强大算法的基石，如果不理解回归算法，无法学习那些强大的算法。回归算法有两个重要的子类：即线性回归和逻辑回归。

线性回归一般使用“最小二乘法”来求解。“最小二乘法”的思想是这样的，假设我们拟合出的直线代表数据的真实值，而观测到的数据代表拥有误差的值。为了尽可能减小误差的影响，需要求解一条直线使所有误差的平方和最小。最小二乘法将最优问题转化为求函数极值问题。函数极值在数学上我们一般会采用求导数为0的方法。但这种做法并不适合计算机，可能求解不出来，也可能计算量太大。计算机科学界专门有一个学科叫“数值计算”，专门用来提升计算机进行各类计算时的准确性和效率问题。例如，著名的“梯度下降”以及“牛顿法”就是数值计算中的经典算法，也非常适合来处理求解函数极值的问题。梯度下降法是解决回归模型中最简单且有效的方法之一。

逻辑回归是一种与线性回归非常类似的算法，但是，从本质上讲，线型回归处理的问题类型与逻辑回归不一致。线性回归处理的是数值问题，也就是最后预测出的结果是数字，例如预测一所房子大约可以买多少钱。而逻辑回归属于分类算法，也就是说，逻辑回归预测结果是离散的分类，例如判断肿瘤是恶性还是良性等等。实现方面的话，逻辑回归只是对对线性回归的计算结果加上了一个Sigmoid函数，将数值结果转化为了0到1之间的概率(Sigmoid函数的图像一般来说并不直观，你只需要理解对数值越大，函数越逼近1，数值越小，函数越逼近0)，接着我们根据这个概率可以做预测，例如概率大于0.5，肿瘤就是恶性的等等。

2、神经网络

神经网络(也称之为人工神经网络，ANN)算法是80年代机器学习界非常流行的算法，不过在90年代中途衰落。现在，携着“深度学习”之势，神经网络重装归来，重新成为最强大的机器学习算法之一。

神经网络的诞生起源于对大脑工作机理的研究。早期生物界学者们使用神经网络来模拟大脑。机器学习的学者们使用神经网络进行机器学习的实验，发现在视觉与语音的识别上效果都相当好。在BP算法(加速神经网络训练过程的数值算法)诞生以后，神经网络的发展进入了一个热潮。

下图是一个简单的神经网络的逻辑架构。在这个网络中，分成输入层，隐藏层，和输出层。输入层负责接收信号，隐藏层负责对数据的分解与处理，最后的结果被整合到输出层。每层中的一个圆代表一个处理单元，可以认为是模拟了一个神经元，若干个处理单元组成了一个层，若干个层再组成了一个网络，也就是”神经网络”。

图神经网络的逻辑架构

在神经网络中，每个处理单元事实上就是一个逻辑回归模型，逻辑回归模型接收上层的输入，把模型的预测结果作为输出传输到下一个层次。通过这样的过程，神经网络可以完成非常复杂的非线性分类。

进入90年代，神经网络的发展进入了一个瓶颈期。其主要原因是尽管有BP算法的加速，神经网络的训练过程仍然很困难。因此90年代后期支持向量机(SVM)算法取代了神经网络的地位。

3、SVM（支持向量机）

支持向量机算法是诞生于统计学习界，同时在机器学习界大放光彩的经典算法。

支持向量机算法从某种意义上来说是逻辑回归算法的强化：通过给予逻辑回归算法更严格的优化条件，支持向量机算法可以获得比逻辑回归更好的分类界线。但是如果没有某类函数技术，则支持向量机算法最多算是一种更好的线性分类技术。

但是，通过跟高斯“核”的结合，支持向量机可以表达出非常复杂的分类界线，从而达成很好的的分类效果。“核”事实上就是一种特殊的函数，最典型的特征就是可以将低维的空间映射到高维的空间。

上述机器学习算法均为监督学习算法。监督学习，就是人们常说的分类回归，通过已有的训练样本（即已知数据以及其对应的输出）去训练得到一个最优模型（这个模型属于某个函数的集合，最优则表示在某个评价准则下是最佳的），再利用这个模型将所有的输入映射为相应的输出。在人对事物的认识中，我们从孩子开始就被大人们教授这是猫啊、那是狗啊、那是桌子啊，等等。我们所见到的景物就是输入数据，而大人们对这些景物的判断结果（是房子还是鸟啊）就是相应的输出。当我们见识多了以后，脑子里就慢慢地得到了一些泛化的模型，这就是训练得到的那个（或者那些）函数，从而不需要大人在旁边指点的时候，我们也能分辨的出来哪些是猫，哪些是狗。无监督学习则是另一种研究的比较多的学习方法，它与监督学习的不同之处，在于我们事先没有任何训练样本，而需要直接对数据进行建模。这听起来似乎有点不可思议，但是在我们自身认识世界的过程中很多处都用到了无监督学习。比如我们去参观一个画展，我们完全对艺术一无所知，但是欣赏完多幅作品之后，我们也能把它们分成不同的派别（比如哪些更朦胧一点，哪些更写实一些，即使我们不知道什么叫做朦胧派，什么叫做写实派，但是至少我们能把他们分为两个类）。无监督学习里典型的例子就是聚类了。聚类的目的在于把相似的东西聚在一起，而我们并不关心这一类是什么。因此，一个聚类算法通常只需要知道如何计算相似度就可以开始工作了。

那么，什么时候应该采用监督学习，什么时候应该采用非监督学习呢？一种非常简单的回答就是从定义入手，如果我们在分类的过程中有训练样本，则可以考虑用监督学习的方法；如果没有训练样本，则不可能用监督学习的方法。但是事实上，我们在针对一个现实问题进行解答的过程中，即使我们没有现成的训练样本，我们也能够凭借自己的双眼，从待分类的数据中人工标注一些样本，并把他们作为训练样本，这样的话就可以把条件改善，用监督学习的方法来做。然而对于不同的场景，正负样本的分布如果会存在偏移（可能是大的偏移，也可能偏移比较小），这样的话用监督学习的效果可能就不如用非监督学习了。

今天，在计算机科学的诸多分支学科领域中，都能找到机器学习技术的身影，尤其是在计算机视觉、语音识别、模式识别、自然语言处理等“计算机应用技术”领域，机器学习已成为最重要的技术进步源泉之一。此外，机器学习还为许多交叉学科提供了重要的技术支撑比如说“生物信息学”。

可以说“计算机视觉=图像处理+机器学习“。图像处理技术用于将图像处理为适合进入机器学习模型中的输入，机器学习则负责从图像中识别出相关的模式。计算机视觉相关的应用非常的多，例如百度识图、手写字符识别、车牌识别等等应用。这个领域是应用前景非常火热的，同时也是研究的热门方向。随着机器学习的新领域深度学习的发展，大大促进了计算机图像识别的效果，因此未来计算机视觉界的发展前景不可估量。

如果说“计算机视觉=图像处理+机器学习“，那么”语音识别=语音处理+机器学习“。语音识别就是音频处理技术与机器学习的结合。语音识别技术一般不会单独使用，一般会结合自然语言处理的相关技术。目前的相关应用有苹果语音助手siri、微软小娜等。

“自然语言处理=文本处理+机器学习“。自然语言处理技术主要是让机器理解人类的语言的一门领域。在自然语言处理技术中，大量使用了编译原理相关的技术，例如词法分析，语法分析等等，除此之外，在理解这个层面，则使用了语义理解，机器学习等技术。作为唯一由人类自身创造的符号，自然语言处理一直是机器学习界不断研究的方向。按照百度机器学习专家余凯的说法“听与看，说白了就是阿猫和阿狗都会的，而只有语言才是人类独有的”。如何利用机器学习技术进行自然语言的的深度理解，一直是工业和学术界关注的焦点。

谈到对数据进行分析利用，很多人会想到“数据挖掘”（data mining）。数据挖掘领域在二十世纪九十年代形成，它受到很多学科领域的影响，其中数据库、机器学习、统计学无疑影响最大。数据挖掘是从海量数据中发掘知识，这就必然涉及对“海量数据”的管理和分析。大体来说，“数据挖掘=机器学习+数据库“——数据库领域的研究为数据挖掘提供数据管理技术，而机器学习和统计学的研究为数据挖掘提供数据分析技术。由于统计学往往醉心于理论的优美而忽视实际的效用，因此，统计学界提供的很多技术通常都要在机器学习界进一步研究，变成有效的机器学习算法之后才能再进入数据挖掘领域。从这个意义上说，统计学主要是通过机器学习来对数据挖掘发挥影响，而机器学习和数据库则是数据挖掘的两大支撑技术。从数据分析的角度来看，绝大多数数据挖掘技术都来自机器学习领域，但机器学习研究往往并不把海量数据作为处理对象，因此，数据挖掘要对算法进行改造，使得算法性能和空间占用达到实用的地步。同时，数据挖掘还有自身独特的内容，即关联分析。

通过上面的介绍，可以看出机器学习是多么的重要，应用是多么的广泛。现随着大数据（big data）概念的兴起，机器学习大量的应用都与大数据高度耦合，几乎可以认为大数据是机器学习应用的最佳场景。例如经典的Google利用大数据预测了H1N1在美国某小镇的爆发、百度预测2014年世界杯结果从淘汰赛到决赛全部正确。这实在太神奇了，那么究竟是什么原因导致大数据具有这些魔力的呢？简单来说，就是机器学习技术。正是基于机器学习技术的应用，数据才能发挥其魔力。

大数据的核心是利用数据的价值，机器学习是利用数据价值的关键技术，对于大数据而言，机器学习是不可或缺的。相反，对于机器学习而言，越多的数据会越可能提升模型的精确性，同时，复杂的机器学习算法的计算时间也迫切需要分布式计算与内存计算这样的关键技术。因此，机器学习的兴盛也离不开大数据的帮助。大数据与机器学习两者是互相促进，相依相存的关系。

机器学习与大数据紧密联系。但是，必须清醒的认识到，大数据并不等同于机器学习，同理，机器学习也不等同于大数据。大数据中包含有分布式计算、内存数据库、多维分析等等多种技术。单从分析方法来看，大数据也包含以下四种分析方法：

1.大数据，小分析：即数据仓库领域的OLAP分析思路，也就是多维分析思想。2.大数据，大分析：这个代表的就是数据挖掘与机器学习分析法。3.流式分析：这个主要指的是事件驱动架构。4.查询分析：经典代表是NoSQL数据库。

机器学习计划 篇8

随着人工智能技术的不断发展，机器学习已经成为一种非常重要的技术手段，广泛应用于各个领域。机器学习简单来说就是让计算机通过训练数据来生成模型，从而支持自动化决策，进而实现自动化或半自动化的功能。这种技术不仅可以大幅提高工作效率，还可以大幅节约人力和物力成本，因此在企业和政府应用中得到了广泛的应用。本文将从机器学习计划的意义和目标，机器学习计划的应用案例，机器学习计划的关键任务、机器学习计划的实施步骤等方面来探讨机器学习计划。

二、机器学习计划的意义和目标

机器学习能够很好地推动企业的数字化转型和智能化发展。一个好的机器学习计划能够帮助企业处理大量数据，并基于数据生成指导决策的模型，从而提高生产效率，优化业务流程，增强企业的商业竞争力。机器学习技术的应用能够在预测、分类和聚类等方面发挥巨大作用，尤其是在推荐系统的优化程序中，机器学习的效率和准确性都得到了提高。

机器学习计划的目标是建立一个具有实际应用价值和竞争力的机器学习体系，并融入企业的核心业务之中，从而提升企业的综合业绩指标。此外，在产品开发、业务优化、定价策略等方面也会产生意想不到的效果。

三、机器学习计划的`应用案例

机器学习计划已经在许多领域得到了广泛的应用。以金融行业为例，银行、保险等金融机构在运用机器学习技术中，可以通过对客户的数据进行分析，进行交叉售卖，提高交易成功率，并且可以明确客户的偏好和需求，提供更加个性化的服务。还有在医药行业，机器学习的应用能够在制药、基因测序、临床数据分析等方面，为医疗行业带来更多“黑科技”的发展机会。

再者，机器学习还可以被应用于智能家居中，实现智能控制，提供更加智能化的生活体验。在农业领域，机器学习技术可以被应用于农作物的种植，提高农作物产量、品质，并提高农业生产效率和经济效益等。

四、机器学习计划的关键任务

机器学习计划的关键任务包括：

1.数据库建立。机器学习关键在于数据获取和处理，数据来自各种内部和外部渠道，特别是来自客户行为和大数据来源。

2.算法开发。机器学习技术的核心在于算法。开发不受困于具体业务领域和任务场景的算法，一直都是AI技术工作者的重要任务之一。算法通常需要在各种不同场景和具体问题中进行测试和验证，以确保最终模型的有效性和预测准确性。

3.数据清洗。机器学习技术非常关注数据、数据清洗、数据整合。处理和清洗数据过程必须非常细致严谨，才能得到可靠的数据基础。

4.模型验证。模型验证的核心是特征选择，以及对模型性能进行评估，包括AUC曲线、F1分数、精度和召回率等常用指标的准确计算。

5.应用落地。机器学习计划最终的目标是实现应用落地，将项目开发为一个可部署的、适用于实际业务的可用系统。

五、机器学习计划的实施步骤

机器学习计划的实施步骤包括：

1.确定项目目标，明确应用场景。项目的主要目标，包括实现什么功能，目标客户是谁，需要哪些数据和资源，需要达到什么样的性能指标。

2.收集数据。机器学习所需要的数据源有多种，需要从多个方面进行数据的采集。同时，应该保证数据的高质量和准确性，尤其是在处理敏感数据时，必须遵循数据安全保护规定。

3.数据清洗和预处理。数据清ing能够清除数据中的无效信息、去掉重复的数据及异常值，同时把数据进行格式化和归一化，以便进行机器学习的处理。

4.机器学习算法选择及模型开发，将模型与算法相结合，为业务提供可行的解决方案。模型最终的表现结果，需要在多次测试和迭代中进行优化。

5.模型部署。将训练好的模型，部署到企业的业务中，提高业务服务的水平。同时，在模型部署之后，还需不断跟进改进和优化，保护系统的安全性和稳定性。

六、结论

数据挖掘机器学习总结 篇9

机器学习中，决策树是一个预测模型;它代表的是对象属性值与对象值之间的一种映射关系。树中每个节点表示某个对象，每个分叉路径则代表的某个可能的属性值，而每个叶结点则对应具有上述属性值的子对象。决策树仅有单一输出;若需要多个输出，可以建立独立的决策树以处理不同输出。

从数据产生决策树的机器学习技术叫做决策树学习, 通俗说就是决策树。

决策树学习也是数据挖掘中一个普通的方法。在这里，每个决策树都表述了一种树型结构，它由它的分支来对该类型的对象依靠属性进行分类。每个决策树可以依靠对源数据库的分割进行数据测试。这个过程可以递归式的对树进行修剪。当不能再进行分割或一个单独的类可以被应用于某一分支时，递归过程就完成了。另外，随机森林分类器将许多决策树结合起来以提升分类的正确率。 决策树同时也可以依靠计算条件概率来构造。决策树如果依靠数学的计算方法可以取得更加理想的效果。

1.1 决策树的工作原理

决策树一般都是自上而下的来生成的。

选择分割的方法有多种，但是目的都是一致的，即对目标类尝试进行最佳的分割。

从根节点到叶子节点都有一条路径，这条路径就是一条“规则”。

决策树可以是二叉的，也可以是多叉的。

对每个节点的衡量：

1) 通过该节点的记录数;

2) 如果是叶子节点的话，分类的路径;

3) 对叶子节点正确分类的比例。

有些规则的效果可以比其他的一些规则要好。

1.2 ID3算法

1.2.1 概念提取算法CLS

1) 初始化参数C={E}，E包括所有的例子，为根;

2) 如果C中的任一元素e同属于同一个决策类则创建一个叶子节点YES终止;否则依启发式标准，选择特征Fi={V1, V2, V3,……, Vn}并创建判定节点，划分C为互不相交的N个集合C1，C2，C3，……，Cn;

3) 对任一个Ci递归。

1.2.2 ID3算法

1) 随机选择C的一个子集W (窗口);

2) 调用CLS生成W的分类树DT(强调的启发式标准在后);

3) 顺序扫描C搜集DT的意外(即由DT无法确定的例子);

4) 组合W与已发现的意外，形成新的W;

5) 重复2)到4)，直到无例外为止。

启发式标准：

只跟本身与其子树有关，采取信息理论用熵来量度。

熵是选择事件时选择自由度的量度，其计算方法为：P=freq(Cj,S)/|S|;INFO(S)=-SUM(P*LOG(P));SUM函数是求j从1到n的和。Gain(X)=Info(X)-Infox(X);Infox(X)=SUM( (|Ti|/|T|)*Info(X);

为保证生成的决策树最小，ID3算法在生成子树时，选取使生成的子树的熵(即Gain(S))最小的特征来生成子树。

ID3算法对数据的要求：

1) 所有属性必须为离散量;

2) 所有的训练例的所有属性必须有一个明确的值;

3) 相同的因素必须得到相同的结论且训练例必须唯一。

1.3 C4.5算法

由于ID3算法在实际应用中存在一些问题，于是Quilan提出了C4.5算法，严格上说C4.5只能是ID3的一个改进算法。

C4.5算法继承了ID3算法的优点，并在以下几方面对ID3算法进行了改进：

1) 用信息增益率来选择属性，克服了用信息增益选择属性时偏向选择取值多的属性的不足;

2) 在树构造过程中进行剪枝;

3) 能够完成对连续属性的离散化处理;

4) 能够对不完整数据进行处理。

C4.5算法有如下优点：

产生的分类规则易于理解，准确率较高。

C4.5算法有如下缺点：

在构造树的过程中，需要对数据集进行多次的顺序扫描和排序，因而导致算法的低效。此外，C4.5只适合于能够驻留于内存的数据集，当训练集大得无法在内存容纳时程序无法运行。

分类决策树算法：

C4.5算法是机器学习算法中的一种分类决策树算法，其核心算法是ID3算法。

分类决策树算法是从大量事例中进行提取分类规则的自上而下的决策树。

决策树的各部分是：

根：学习的事例集;

枝：分类的判定条件;

叶：分好的各个类。

1.3.1 C4.5对ID3算法的改进

1) 熵的改进，加上了子树的信息。

Split_Infox(X)= -SUM( (|T|/|Ti|)*LOG(|Ti|/|T|));

Gain ratio(X)= Gain(X)/Split_Infox(X);

2) 在输入数据上的改进

① 因素属性的值可以是连续量，C4.5对其排序并分成不同的集合后按照ID3算法当作离散量进行处理，但结论属性的值必须是离散值。

② 训练例的因素属性值可以是不确定的，以?表示，但结论必须是确定的。

3) 对已生成的决策树进行裁剪，减小生成树的规模。

2 The k-means algorithm(k平均算法)

k-means algorithm是一个聚类算法，把n个对象根据它们的属性分为k个分割，k < n。它与处理混合正态分布的最大期望算法很相似，因为他们都试图找到数据中自然聚类的中心。它假设对象属性来自于空间向量，并且目标是使各个群组内部的均方误差总和最小。

假设有k个群组Si, i=1,2,...,k。μi是群组Si内所有元素xj的重心，或叫中心点。

k平均聚类发明于1956年，该算法最常见的形式是采用被称为劳埃德算法(Lloyd algorithm)的迭代式改进探索法。劳埃德算法首先把输入点分成k个初始化分组，可以是随机的或者使用一些启发式数据。然后计算每组的中心点，根据中心点的位臵把对象分到离它最近的中心，重新确定分组。继续重复不断地计算中心并重新分组，直到收敛，即对象不再改变分组(中心点位臵不再改变)。

劳埃德算法和k平均通常是紧密联系的，但是在实际应用中，劳埃德算法是解决k平均问题的启发式法则，对于某些起始点和重心的组合，劳埃德算法可能实际上收敛于错误的结果。(上面函数中存在的不同的最优解)

虽然存在变异，但是劳埃德算法仍旧保持流行，因为它在实际中收敛非常快。实际上，观察发现迭代次数远远少于点的数量。然而最近，David Arthur和Sergei Vassilvitskii提出存在特定的点集使得k平均算法花费超多项式时间达到收敛。

近似的k平均算法已经被设计用于原始数据子集的计算。

从算法的表现上来说，它并不保证一定得到全局最优解，最终解的质量很大程度上取决于初始化的分组。由于该算法的速度很快，因此常用的一种方法是多次运行k平均算法，选择最优解。

k平均算法的一个缺点是，分组的数目k是一个输入参数，不合适的k可能返回较差的结果。另外，算法还假设均方误差是计算群组分散度的最佳参数。

3 SVM(支持向量机)

支持向量机，英文为Support Vector Machine，简称SV机(论文中一般简称SVM)。它是一种监督式学习的方法，它广泛的应用于统计分类以及回归分析中。

支持向量机属于一般化线性分类器。它们也可以被认为是提克洛夫规范化(Tikhonov Regularization)方法的一个特例。这种分类器的特点是他们能够同时最小化经验误差与最大化几何边缘区。因此支持向量机也被称为最大边缘区分类器。

在统计计算中，最大期望(EM)算法是在概率(probabilistic)模型中寻找参数最大似然估计的算法，其中概率模型依赖于无法观测的隐藏变量(Latent Variable)。最大期望经常用在机器学习和计算机视觉的数据集聚(Data Clustering)领域。最大期望算法经过两个步骤交替进行计算，第一步是计算期望(E)，也就是将隐藏变量像能够观测到的一样包含在内从而计算最大似然的期望值;另外一步是最大化(M)，也就是最大化在 E 步上找到的最大似然的期望值从而计算参数的最大似然估计。M 步上找到的参数然后用于另外一个 E 步计算，这个过程不断交替进行。

Vapnik等人在多年研究统计学习理论基础上对线性分类器提出了另一种设计最佳准则。其原理也从线性可分说起，然后扩展到线性不可分的情况。甚至扩展到使用非线性函数中去，这种分类器被称为支持向量机(Support Vector Machine，简称SVM)。支持向量机的提出有很深的理论背景。支持向量机方法是在近年来提出的一种新方法，但是进展很快，已经被广泛应用在各个领域之中。

SVM的主要思想可以概括为两点：(1) 它是针对线性可分情况进行分析，对于线性不可分的情况，通过使用非线性映射算法将低维输入空间线性不可分的样本转化为高维特征空间使其线性可分，从而使得高维特征空间采用线性算法对样本的非线性特征进行线性分析成为可能;(2) 它基于结构风险最小化理论之上在特征空间中建构最优分割超平面，使得学习器得到全局最优化，并且在整个样本空间的期望风险以某个概率满足一定上界。

在学习这种方法时，首先要弄清楚这种方法考虑问题的特点，这就要从线性可分的最简单情况讨论起，在没有弄懂其原理之前，不要急于学习线性不可分等较复杂的情况，支持向量机在设计时，需要用到条件极值问题的求解，因此需用拉格朗日乘子理论，但对多数人来说，以前学到的或常用的是约束条件为等式表示的方式，但在此要用到以不等式作为必须满足的条件，此时只要了解拉格朗日理论的有关结论就行。

支持向量机将向量映射到一个更高维的空间里，在这个空间里建立有一个最大间隔超平面。在分开数据的超平面的两边建有两个互相平行的超平面。分隔超平面使两个平行超平面的距离最大化。假定平行超平面间的距离或差距越大，分类器的总误差越小。一个极好的指南是C.J.C Burges的《模式识别支持向量机指南》。van der Walt 和 Barnard 将支持向量机和其他分类器进行了比较。

有很多个分类器(超平面)可以把数据分开，但是只有一个能够达到最大分割。

我们通常希望分类的过程是一个机器学习的过程。这些数据点并不需要是中的点，而可以是任意(统计学符号)中或者 (计算机科学符号) 的点。我们希望能够把这些点通过一个n-1维的超平面分开，通常这个被称为线性分类器。有很多分类器都符合这个要求，但是我们还希望找到分类最佳的平面，即使得属于两个不同类的数据点间隔最大的那个面，该面亦称为最大间隔超平面。如果我们能够找到这个面，那么这个分类器就称为最大间隔分类器。

设样本属于两个类，用该样本训练SVM得到的最大间隔超平面。在超平面上的样本点也称为支持向量。

[

数据挖掘机器学习总结