Archive

Archive for the ‘计算科学’ Category

Iowa State University的人工智能方向

2011/12/03 留下评论

有人问我这个事,顺便转在这里。

我在Iowa State University计算机系待了6年(2001-2007)。这两年系里有些变化,变化不大。ISU的计算机系是个小系,也就20多个教师。AI研究方向,主要是三个人。

Vasant Honavar,是印度人,50出头,威斯康星 Madison 1990年的博士,我的老板。人很好,绝对大好人。可以去看我以前的小文《记“郝”先生》。

Honavar在AI方向上在ISU应该是最强的,什么都搞,手下人也多,多到不再叫AI Lab了叫Center for Computational Intelligence, Learning, & Discovery。Honavar已经是桃李遍天下了,20多个PhD,商业学术界都很多(比如Groupon的Director of Research)。他最早搞神经网络,后来搞了进化计算,2000年前后慢慢转到机器学习和生物信息学(曾是ISU生物信息学Program的主任),也开始搞一点ontology。我是他第一个专门搞语义网的学生(2003年开始),后来又有3-4个。总的来说,Honavar的看家本领还是机器学习——其实这个在AI里大概是最好找工作的方向,现在各大Web公司都抢着要。

不过现在Honavar在NSF,Information Integration & Informatics (III)做Program Director,不常驻学校。不知道什么时候任期结束。

其他人,主要是Jin Tian(中国人,贝叶斯学习和概率,2002年UCLA PhD)和Giora Slutzki(逻辑和算法,1977年以色列特拉维夫大学PhD),

Slutzki是个有趣而可爱的老教授,60多岁了,还天天来,丝毫没有退休的想法。我认识他是2002年上他开的一门博弈论的课程。到了后来我要搞逻辑,Honavar叫我去找Slutzki讨论讨论,问Slutzki知不知道我,Slutzki点头说,嗯,那个老打瞌睡的。:-P

Slutzki这几年主要是和Honavar合作,做和语义网有关的逻辑的研究,算上我带了三个学生了。他的风格是慢条斯理的,让你给他讲,一篇文章能和你讨论几个月。我总是站在小黑板前面,一条定义,一条定理地给他解释;有时候隔几天他又忘了,我要再解释一遍。Slutzki绝对不会放过一个他认为含糊的地方。我一开始不习惯,过了几个月,就觉得这个其实很好:在开始阶段被人发现错误,总比给审稿人发现错误要好得多。他改你文章也是这样,定理证明什么的自然不待言,其他常说的,就是:“这个符号要改名”,“这里还需要一个空格”,“这里应该是斜体”。被他改过的文章,我扔出去特别放心:两年中,和他合作的文章一篇也没有被拒过。

其实和Slutzki的趣事很多。每次和他讨论,我们都会聊天,从俄国、波兰、以色列的集体农庄(他的三个母国),到中国有没有楼。这里就不讲了。

Tian Jin是搞贝叶斯学习的。他在UCLA的老板是Pearl,贝叶斯网络(Bayesian Network)的发明人。我上过他的计算学习理论(Computational Learning Theory)和贝叶斯网络的课。他的方向我不是很懂,只知道很强,在AAAI, UAI, IJCAI上文章不断。他有一个门生Changsung Kang(韩国人),现在在Yahoo! Lab当Research Scientist。

其实ISU CS还有几个教授和AI有关:Yan-Bin Jia的机器人和计算几何学,Wallapak Tavanapong(”Pak”)的图像处理,Carl K. Chang(系主任)的进化计算。现在具体的课题,我都不熟悉。

分类:计算科学, 回忆

纪念John McCarthy

2011/11/07 1条评论

人工智能的创始人John McCarthy刚刚去世。看了Bertrand Meyer在CACM上的Blog,有些感想。

我见过John一次,2007年在温哥华,AAAI年会上。他很老了(那年80整),走路很慢,手不停在抖,大概是帕金森氏症吧。大多数时候,他一个人在走,上下楼都自己一个人。我认得这张脸,问我老板,这是John McCarthy吧,怎么好像大家都不认识他似的。老板说,大概他太老了吧。老到他自己创立的学科的徒子徒孙们,已经不记得开山鼻祖了。

我就在想,象他这种人,在中国一定会当个国宝供起来。如果中国有这么一个泰斗级人物,大概走哪都众星捧月地围着吧!麦老您走好。麦老,我扶您上楼梯吧。麦老…麦老… 在美国,无非是一个寂寞的没人理的老头子。

Poster Session那天,我看到John又出现了,就鼓起勇气问他有没有兴趣看看我的Poster(就是上面那张照片喽)。我差不多用了一分钟讲了的大意(是描述逻辑方面的),John似乎听力不很好了,说话也不清楚,好像是说,这个东西他不懂,不是他的领域。

我后来几年做Context Logic(域态逻辑)——这是John的领域了。他的图灵奖获奖演说,就说这个,后来做了不少年。他有个学生Guha,后来去了CYC,在CYC里做context(称为micro theory);现在Guha在Google,大概是schema.org后面的主要推手之一。我曾经想突破John的框架发展一个表达力更强的逻辑。最近几个月仔细读他和他的学生的论文,觉得其实我想的并没有超越他们十几年前的框架——只是在语法上而不是语义上做了扩展。

Context在很多地方现在都叫得很响,我现在在三星的工作也涉及到Context。只是很少有公司会用到域态逻辑这样深刻的工具——虽然我认为也许在遥远的将来会被用到。也许更早,谁知道呢?很多应用(比如IPhone上的SIRI),如果加上context,会成为难以想象的伟大的东西,现在的Web或者移动界不过是刚刚开始真正实践这个思路而已。到那时,再回去看John在1971年的图灵奖演说,想必又有新的感受。

John还发明了LISP和时分复用(time sharing)。时分复用的意义,不需要说了。LISP呢?现在也早就不仅是学校中的语言了,比如AutoCAD和AllegroGraph(一个主流语义数据库)的开发语言都是LiSP.

我搬到加州的第一天,看到路边挂着大牌子,纪念Steve Jobs的逝世。那几天,铺天盖地的对Steve Jobs的纪念,近乎是刷屏了。而John的逝世,就是在学术界,大概也只有搞人工智能中和逻辑有关的一个小人群纪念一下罢了。类似的,还有最近逝世的Dennis Ritchie(C和UNIX之父)。长远看,到底是Steve对人类的贡献大,还是John/Dennis对人类的贡献大?这个取决于价值观了,想必每个人都有自己的看法。【想到这里,我又想到索马里现在赤地千里,一千多万人受灾,死了上十万人了,谁关心了?不管是Steve还是John,都比十万个索马里人得到的眼球多些。我的价值观又混乱了——这是不相关的胡话】

Matrix与Godel不完备定理[2005]

2011/05/22 留下评论

【Net.Weblog.20050711】

2005-07-11

最近温习了《matrix》, 再读Godel不完备定理, 有两个想法

1. Matrix讲的是形式系统的相容性和完备性的矛盾. Matrix中的个体的活动, 比如行走, 打斗和死亡, 都是一个定理证明过程. Matrix是一个相容系统, 但是不完备, 设计师就把那些不能证明的命题送到Zion去观察, 经过学习(“直觉”或者统计), 由The One为Matrix添加新的公理(matrix reload). 这个设计很合乎图灵机的局限性(停机问题和是哥德尔不完备定理等价的).

对于一个包含数论的逻辑系统里的命题, 它是无从”感知”这个系统之外的世界的. 比如说, 在RAM里的程序, 它所观测(可证明的)的世界, 就是这个RAM中包含的规则所相容的那些命题. 我们所处的宇宙, 如果是一个封闭的逻辑系统(物理的因果律成立), 我们所说的宇宙的”边界”, 只是我们的逻辑所推断出来的一个界限, 或者说是一个系统相容性所允许的某种测度(时间, 空间)的极限. 但是这种测度在我们这个逻辑系统之外或许根本是无意义的, 比如在RAM中存在的个体(一组命题), 它认识到整个系统最多有1T比特容量, 或者1M并行进程数, 对于我们这个三维世界, 就不是限制; 反之, 如果我们不把万有引力定律引入RAM, RAM世界也就没有必要遵守这个逻辑.

不过, RAM世界的运作, 还是需要能量的, 因为证明命题的过程是一个有序化过程, 必然要一个能量交换来带来负熵流. 但是….. 能量又是什么呢, 是不是逻辑的一种表现呢?

p.s. 以前思考过测不准原理和热力学第二定律的联系, 因为它们都讲了信息(负熵)不能无中生有. 哥德尔不完备定理或许也和这有关. 如果一个包含数论的相容系统就是一个封闭系统, 它是不能做定理证明的(因为这是有序化); 能量和信息之间有一个换算关系. 系统中总有一些命题不能在既有公理体系中被验证, 乃是因为能量的量子化, 所以认知也总是有限度的.

2. 科学是一个逻辑系统. 宗教也是一个逻辑系统. 区别在于科学是一个相容系统, 也就承认自己一个不完备系统; 宗教, 比如基督教, 坚持自己是一个完备系统(因为上帝万能, 所以可以验证所有的命题), 但不可避免有相容性困难.

网络战,面条战?

2011/04/18 留下评论

【本文所有内容来自公开资料】

“Foreign Policy” (《外交政策》) 三/四月号发表了一篇文章:“It Takes a Network”(这需要网络)。作者是退役四星上将Stanley Allen McChrystal( 麦克里斯特尔)。麦上将本来是驻阿富汗美军司令,去年7月因为在滚石上发表对奥巴马政策的不满被解职(暂不深入八卦)。

这个文章,内行看了并不会吃惊,因为美国军方在网络战方面,研究已久。这种网络战,并不是指形式上使用现代通信网络比如计算机网络——那是“古”已有之。而是,在现在的美国作战思维中,特别是针对反恐作战,认为传统的由上至下的指挥方式已经不胜任了。一种新形式的作战,是灵活的,自组织的,Facebook时代的作战。为了研究如何支持这种作战方式,美军投入了巨额资金研究如何利用有效网络。这种网络,被称为“综合网络”,它包括

  • 通信网络,比如计算机网络和移动通信网络。这是物理层面的支持
  • 信息网络,比如情报的分析,整理,关联,挖掘。尤其是如何把零散的信息串起来,发掘有用的隐藏消息。
  • 社交网络。无论是美军自己,还是作战对手(比如塔利班),都要研究人与人之间的关系如何建立,如何变化,如何挖掘内在隐含关系,如何预测未来关系的发展,等等。
更重要的,是研究所有这些网络之间的影响。麦上将的文章,从具体的几个例子,阐述了这些网络的相互关联,以及如何更新军队的运作方式来适应新形势的需要。当然,作为一个“科普”文章,麦上将说的很通俗。美军资助的几个公开的会议,比如ACITA, MILCOM,每年都发表大量的研究文章,各种题目都有讲得很细。

为什么要这样?先看一下麦上将自己推荐的一个PPT,表示阿富汗“剿匪”(COIN=Counter-insurgency)作战的相关因素之间的关系。

头大了吧,整个一窝意大利面条。PPT是第一生产力!

对于游击队,巴顿那种作战风格是解决不了问题的。大炮打蚊子,效果是不好的。比如阿凯达,斩首并不能有效破坏其指挥系统——因为传统的金字塔形的指挥系统本来就是不存在的。各个游击队的头,往往就是本地自发锻炼出来的,和本地及周边的游击队有千丝万缕的联系,你的五叔是我二舅的三嫂的大侄子。他们形式上接受某个集团的领导,实际上是各自为作战的。(其实麦上将如果多看看其他国家的书,就不会有这么多的感慨和恍然大悟了——比如五胡乱华早期那一段中原大地上星罗棋布的地方武装)

麦上将,也是现在米军的思路是,你是一锅面条,那我也成一锅面条。你快,我也快。你搞武工队,我也搞武工队。你搞鸡毛信,我搞非死不可(Facebook)——不要笑,现在的美军小兵和排连长就是和非死不可一起长大的,前线军网,虽然不用非死不可,军方的各种山寨版wiki,社交网络不要用得太火。

到底这面条战法行不行,有待实战的检验。

分类:计算科学, 时事