文发来自奥菲寺。
量子报道| QbitAI,微信官方账号。
机器学习领域每日流水写论文:
来源推特:人工智能青少年AI迷因
清晰地思考是美好的:提出更好的新架构、新的损失函数、新的优化器或激活函数.
实际上正在做什么?
将现有的东西(如架构、优化器、损失函数)应用于数据集,并尝试不同的组合来找到数据集上的最佳解决方案。
这就是现阶段Reddit上一个准医生的烦恼:
他对现在的工作不满意,不知道自己做了什么贡献。
所以帖子标题很直接:
在机器学习领域写论文如何保证创新?
#关注真正的问题和细分。
对于这个问题,下面讨论的网友基本分为两类。
第一类认为,不要刻意追求“创新”,而是先试着从解决现实问题开始:
一个新的想法通常会出现,试图解释一些以前没有解决的问题。
或者有办法解决这个问题(但你找到了更好的解决办法)。
现实中有很多这样的例子。
例如,强化学习领域的许多论文都集中在游戏上。
出现这种现象的原因之一是,一开始大家都用较低的成本让模拟器快速运行。
但是慢慢地,这种传统的方法暴露了游戏中的许多问题:
例如,只有在执行了一长串正确的动作之后,你的(强化学习)模型才能获得奖励信号。
这种实际应用中的困难很容易扩展到“如何解决”或“如何使现有方法更好”。
那创新会来吗?
第二类网友直接从问题的根源入手:
不要再在ML领域挥手了,赶紧选个利基领域.吧
利基领域?是什么
这是指一个专业的小领域没有被别人占据,也叫细分领域。
这类网友认为,要想在机器学习领域有所创新,就意味着要和成千上万的研究人员竞争。有多容易?
因此,最好尝试一些“空中”的分支。
比如30年前在AI领域流行的归纳逻辑编程(ILP):
当然,当你的目标是“获得博士学位并获得成功”时,这种方法更合适。
毕竟,这样做可能会导致你在个位数一年到头都被引用.
最后,试试它的预约程序:
即使最后失败了,你也会对相关问题有更深的理解,或者产生新的思考。

同时,这也能侧面印证你选择的课题是不是真的有价值:
毕竟对于牛逼的课题,即使失败也是成功的垫脚石。
但如果你完全无法从这次失败中收获新的东西的话――
那还是赶紧跑路另择idea吧。
# 永恒的难题:idea
其实今天开贴的这位题主所说的“保证论文创新性”,说到底还是一个idea的问题。
而对于广大科研人来说,这是个永恒的话题。
比如说19年时,就有这种“发现自己的idea已经被人发表了该怎么办?”的讨论帖了:
(只听标题都是闻者伤心听者落泪)
大家在下面集思广益了半天,从如何避免撞车,到撞车之后如何扩展强化,再到个人能力培养和学术环境,最后表示:
> 凑合一下,克服一下,适应一下。
而在去年,来自清华的高天宇同学也在直播中分享了他的idea来源:
这位本科期间就发表过两篇AAAI和两篇EMNLP的大神表示:
> idea的形式多种多样,有原创的突破性工作,就像发明衬衫;也有排列组合、迁移、渐进的补充性工作,就像给衬衫装上纽扣和前衣口袋;而灌水就像是在衣服背后缝了个口袋。
今年,甚至有位英国教授专门写了篇论文来指导大家如何写论文:
作者主要从建模前如何准备、如何建出可靠的模型、如何稳健地评估模型,如何公平地比较模型以及如何报告结果五个方面,全面阐述了如何避免机器学习研究中的陷阱。
那么最后,你觉得还有什么保证论文创新性(或寻找idea)的方法呢?
清华特奖高天宇:
https://www.qbitai.com/2020/03/12309.html
如何写一篇不水的机器学习论文:
https://www.qbitai.com/2021/08/27616.html
发现自己的idea已经被人发表了,该怎么办?
https://www.qbitai.com/2019/06/3337.html
参考链接:
https://www.reddit.com/r/MachineLearning/comments/p4pv17/d_how_to_bring_novelty_in_machine_learning/
― 完 ―
量子位 QbitAI 头条号签约
关注我们,第一时间获知前沿科技动态