adtop
首页 综合 查看内容

CLIPasso如何画抽象画需要经过很久的训练

2022-03-20 17:51| 发布者: 余梓阳| 查看: 83641| 评论: 0|来自: IT之家  阅读量:12086   

摘要:只用几笔,如何勾勒一只动物的简笔画,很多人从小都没整明白的问题——如今AI也能实现了。 下面图中,左边是三张不同的动物照片,右边是AI仅用线条来描出它们的外形和神态。从32笔到4笔,即使大量信息都抽象略去了,但我们...

只用几笔,如何勾勒一只动物的简笔画,很多人从小都没整明白的问题 —— 如今 AI 也能实现了。

CLIPasso如何画抽象画需要经过很久的训练

下面图中,左边是三张不同的动物照片,右边是 AI 仅用线条来描出它们的外形和神态。从 32 笔到 4 笔,即使大量信息都抽象略去了,但我们还是能辨识出对应动物,尤其是最下面的猫猫,只需 4 笔曲线也能展示出猫的神韵:

再看这匹马,抽象到最后只保留了马头,马鬃和扬蹄飞奔的动作,真有点毕加索那幅公牛那味儿了。

更神奇的是,其背后的模型 CLIPasso 并没有在速写画数据集上训练 —— 等于说,没学过怎么画抽象画,按照文字描述就能完成简笔速写。

要知道,日常速写都比较抽象,即使是人来画,要想抓住物体的灵魂,也需要经过很久的训练那为什么这个 CLIPasso 甚至连速写画数据集训练都没做,就能 get 到抽象简笔画的灵魂呢

CLIPasso 如何画抽象画

其实 AI 画抽象简笔画比人更难既要准确地理解语义,又要在几何上相似,才能让抽象画看起来有像的感觉

具体实现上,模型会根据图像的特征图先生成初始线条的位置,然后靠 CLIP 构建两个损失函数,来控制抽象画几何相似,语义理解准确。

例如我们要画一匹马,首先通过特征图标记一些初始线条的位置。然后通过光栅化把线条投影到成像平面:

接下来就是优化线条参数了把初始图像导入 CLIP 模型,计算几何损失和语义损失其中语义损失通过余弦相似度来判断两图的差异,而几何损失通过中间层来控制

这样就能保证在准确理解语义的情况下保持几何准确,再通过反向传播不断调整线条参数,直到损失收敛那速写的抽象程度是怎么控制的呢

就是靠设置线条的数量。同样画一匹马,用 32 笔去画和只用 4 笔去画,抽象效果肯定是不一样的:

最后,我们来看一下 CLIPasso 画出的画辨识度怎么样下图中这个柱形图代表的是五类动物的辨识准确度不过在猜测的时候还有第六个选项:这五种动物都不是

从图中可以看出,无论什么动物,在高度抽象的时候,辨识度都很低,伴随着笔画越来越多,辨识度也会逐渐提高毕竟这么抽象的画,看不出来是啥也很正常

但是,模型团队在第二轮测试辨识度时删除了第六个选项,也就是必须从这五个动物类型中选一个归类这时,我们从下面的柱形图中可以看到,即使是高度抽象的 4 笔画,辨识度也提高了不少,从 36% 提到了 76%

CLIPasso 团队成员主要来自洛桑联邦理工学院,特拉维夫大学等其中 Jessica 是苏黎世联邦理工学院机器人方向的硕士研究生,目前在洛桑联邦理工学院的计算机视觉实验室 VILAB 实习

而 Yale Vinker 是特拉维夫大学计算机科学的博士研究生,对艺术和技术的交叉领域非常感兴趣,也难怪 CLIPasso 有这么丰富的艺术细胞。

参考链接:

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

分享至:
| 收藏

相关

  • 可以理解为上汽名爵汽车在展示其品牌在设计方面的能力提升
  • 日前,上汽名爵旗下全新车型MG5天蝎座开启预售,新车共有3款车型,预售价为10.29mdash,11.79万元这款全新车型是基于已有的紧凑级家用轿车MG5进行升级打造的,对外观设计,内部配置以及动力性能都有所调整和升级,...
  • 企业家在线 发布于  2022-03-18 18:52  
  • 继舒格利单抗在一线胃癌和一线食管鳞癌完成入组后
  • 日前,创新药企基石药业宣布,其PD—1抗体nofazinlimab联合仑伐替尼一线治疗晚期肝细胞癌患者的国际多中心III期注册性研究CS1003—305成功达成预设患者入组目标值得一提的是,基石药业此次研究是国际多中心开...
  • 企业家在线 发布于  2022-03-18 12:32  
  • DoorDash为司机专门提供名为DasherDirect的借记卡
  • 北京时间3月16日早间消息,据报道,油价上涨,为了帮司机降低成本,美国外卖公司DoorDash推出一项补贴举措DoorDash为司机专门提供名为DasherDirect的借记卡,如果司机用该卡加油,DasherDirec...
  • 企业家在线 发布于  2022-03-17 18:24  

企业家在线© 2012-   X3.4