人工智能工程师真的是调参侠吗
- 原创经验
- |
- 更新:
- |
人工智能产品开发包括数据采集、预处理、数据探索、选择算法训练模型。训练模型主要选择梯度下降算法,通过调整激活函数、隐藏层、池化层等不同参数,达到最优解。在CV这块,除了超参数外,影响模型效果的主要还是要网络结构、数据和损失函数,这三方面确定下来后,调参基本花不了多少时间。现在做人工智能方向的工程师,有不少被称为“调参侠”,那么人工智能工程师真的是调参侠吗?下面我们就来具体了解一下吧!
具体如下
-
调参侠,到底调什么参?
在人工智能里面,参数大致可分为2大类:
参数(parameters)/模型参数:由模型通过学习得到的变量,比如权重w和偏置b,这个多半是不能调节的,它是由神经网络自己学习出来的。
超参数:在机器学习中,超参数是在神经网络训练之前设置值的参数,而不是通过训练得到的参数数据。常见的有学习率、迭代次数、隐藏层的层数、每层神经元的个数等。通常情况下,需要对超参数进行优化,给学习机选择一组最优超参数,以提高学习的性能和效果。这一般是根据经验进行设定,影响到权重w和偏置b大小的数值。
-
为什么会被称为“调参侠”?
主要原因有以下2个:
多半是刚入门的算法工程师做的事情,他们不是很懂神经网络的结构、数据分布等等,只能通过调整超参数,以期望获得较好的结果,这样有时候是可行的;
更重要的原因是,GitHub上开源了很多模型,并附上了预训练参数,如常用的检测、分割、分类等等,这些模型都非常成熟,大部分直接调用就可以,然后根据自己的训练数据,稍加修改,就可以得到非常好的结果。公司只要结果,不要求创新,开源项目已经可以做到这点了,所以大多数只要调参即可。
-
怎么避免成为“调参侠”
目前AI人才竞争越来越激烈,“调参侠”的时代已慢慢过去,这些事情其实根本不需要AI工程师来做,未来的研发工程师就可以承担这些了! 几年前如果熟练使用TensorFlow,同时掌握基本的AI算法就可以很容易找到一份高薪的工作,但现在不一样了,AI岗位的要求越来越高,对知识的深度也提出了更高的要求。
要想跟上时代,得武装自己,才能不被淘汰。
对于真正的人工智能工程师而言,他们往往是从数据和特征下手的,同时还需要丰富的行业经验。一定要记住一句行业内的谚语,数据和特征才决定算法 的上限,而选择的算法和参数只是决定了已逼近这个上限的速度。