近期，韩媒频繁报道AI。
11月6日，khan报道《让全世界震惊的AI假拜登，这样下去没关系吗？》。
1月拜登总统在发表贬低和攻击性少数者的演讲假视频网上扩散，虽然画质不好，但完全可以识别白宫新闻发布厅和拜登总统的脸，最重要的是嗓音真的太神不知鬼不觉。假视频引发巨大争议后，白宫急忙澄清是假的，出面收拾残局。
“受害者”拜登10月30日出台了强力限制AI和利用AI的假视频等行政命令。事实上，通过AI受益最大的是美国。通过生成型AI掀起世界热潮的ChatGPT等权威技术在美国，通过该技术生产的各种内容和流通平台也掌握在谷歌(YouTube、Instagram)、Meta(Facebook)、X(旧推特)等美国企业手中。AI先导国美国首先进行限制，意味着AI发生的问题已经非常严重，今后可能会更加严重。
不仅是假视频。随着AI广泛引入制造业、国防、建设、汽车、保健、医疗等领域，不断有人担心AI会威胁人类和社会的安全，因此欧洲、美国等发达国家正加紧制定AI限制法。
海外，假视频持续引发争议。5月，美国称为“小特朗普”的佛罗里达州州长迪桑蒂斯正式宣布挑战下届总统宝座后，出现了前国务卿希拉里支持他的视频，引发了风波。3月，前总统特朗普躲避警察逃跑的场面和因抵抗而被捕的假视频照片通过SNS被传播。最近，总统拜登在书店挑选痴呆症相关书籍的假视频散播。美国通过行政命令阻止AI，也是为了防止假视频等介入即将面临的大选。
如果说Deep Fake是视频和形象方面的，那么制造假声音的Deep Voice通过生成型AI，已经达到可以恶意利用电话诈骗犯罪的水平。3月在加拿大被Deep Voice伪造的假儿子声音欺骗的父母向电话诈骗犯汇款2000万韩元。2019年，英国一家公司被伪造CEO声音的Deep Voice诈骗，汇款数亿韩元。11月1日，忠南警察厅反腐败经济犯罪搜查队公开抓捕的电话诈骗犯罪集团在中国杭州设立了呼叫中心，从1891人处骗取了1490亿韩元。警方表示，被捕当时他们正在开发利用Deep Fake和Deep Voice合成一位著名检察官的脸部和声音后，将其利用在犯罪上的新型手法。
应用生成型AI的Deep Voice程序已经大众化，甚至可以在网页上通过免费体验版等下载使用。YouTube等网站上还上传了很多介绍这种免费Deep Voice使用方法的视频。从相关视频来看，根据语音样本，从名人到普通女性、男性等多种声音只需简单的操作就可以合成。收费提供合成精巧声音的Deep Voice的企业也在营业。
崇实大学电子信息工程系教授郑秀焕表示：“虽然技术存在偏差，但只要约5秒语音，就可以合成特定人的语音。很难相信用耳朵听、用眼睛看的时代已经到来。如果声音的合成和伪造泛滥，很可能被恶意利用在电话诈骗或介入选举等犯罪上，因此有必要制定对策。”郑教授正在开发实时探测并告知Deep Voice的AI程序。
利用Deep Fake程序等制作内容的一位创作者表示：“如果很好地利用Deep Fake，可以在电影或游戏等内容产业中节约费用，创作者们可以以低廉的费用创作内容，因此具有降低进入门槛的效果。因为有可能被恶意利用在犯罪等，所以有必要对用AI制作的内容明确规定AI内容等适当的限制。”
2022年9月，在美国科罗拉多举行的州立美术大会上，在数码艺术领域，用生成型AI制作的作品“太空歌剧院”获得了第一名，成为了话题和争论的对象。参展作品的是策划游戏的杰森·M·艾伦，用只要输入说明就能转换成图像的Midgenny，AI制作3部作品，仅用了80多个小时后，参展并获奖。对于获奖消息，从没有获奖资格的批评开始，到与（相关竞争部门允许的）利用photoshop等软件没有什么区别的反应不一。
AI制作的Bruno Mars翻唱NewJeans的《Hype Boy》在YouTube成为热门视频。YouTube上充斥像这样的AI翻唱曲。只要搜索“AI翻唱IU”，就会出现用IU的声音制作的众多AI翻唱歌曲。制作AI翻唱歌曲的过程与利用Deep Voice合成声音的过程没有太大区别。区别在于AI代替语音学习歌手的歌曲。问题是，利用受到著作权保护的IU的歌曲，在没有得到任何许可的情况下制作音源是否正当。
美国行政命令规定，对国家安保、经济、公共卫生等产生巨大影响的AI模型从开发阶段开始向政府报告。另外，还决定由政府认证的验证专家组对该型号的安全性进行审查，并提交结果。为了防止利用AI的Deep Fake等，还包括了对AI生成的内容的水印标记及相关标准等。研究因AI而失去工作的劳动者的支援方案，为防止AI学习时盲目利用个人信息，制定方针等义务也赋予了企业。
早在2021年就制定了AI限制法草案的欧盟的法案更加广泛和详细。草案将AI可能发生的危险分为不可容忍的危险(侵害人类基本权利等)、高风险(健康、安全威胁)、低风险(主动遵守建议事项)等，并在各危险阶段明示了禁止或劝告事项。例如，以执法为目的，利用AI在公开场所实时远程收集生物信息等行为是无法容忍的危险，属于禁止事项。引起争议的Deep Fake和AI著作权问题等被包含在低危险中。建议赋予Deep Fake等透明性义务，标明是AI生成的内容，或标记相关内容创作过程中参考的原著作品。
【另外，11月22日，news1报道，AI制作任宰范唱IU的《好日子》。AI制作的Bruno Mars翻唱NewJeans的《Hype Boy》油管视频播放量230万。】
Chosun报道，最近在YouTube上，生成型AI学习特定歌手的声音，模仿歌手的AI翻唱曲很受欢迎。AI歌手翻唱曲YouTube频道通过留言征集用户想听的歌手和歌曲，以朴孝信、IU、金东律等音色好的歌手为主上传内容。
11月15日，dongascience报道《捕捉到假IU的声音，YouTube出面限制AI生成的翻唱曲》。
随着利用生成型AI可以制作出与特定艺人的声音或唱法类似的声音，即使不是艺人实际录音的歌曲，也像发行音源一样上传视频的事例增加，因此平台层面要求限制这种声音的呼声越来越高。
油管11月14日（当地时间）发文称，几个月内将引入AI生成的内容义务性贴上“AI制作”的标志，每当YouTube用户看到AI制作的内容时，就会告知相关事实的制度。
另外，包括露脸的艺人在内，如果上传可以识别的个人声音或模仿脸部的AI假视频，可以要求删除。到目前为止，YouTube上还没有对AI生成视频有其他规定或删除条款。
但是，还补充了详细标准，并不是所有要求删除的内容都会被删除，将仔细研究内容是否是模仿或讽刺内容、公职人员或名人是否登场等。
如果不表明这是用AI制作的假视频，如果被发现就视为违反规定，删除相关频道的内容或中断广告费支付。拥有歌手版权的唱片公司可以要求删除模仿歌手声音的AI生成音乐内容。
仅在韩国就上传了很多模仿IU、朴孝信、NewJeans等著名歌手声音的音乐内容，各视频的点击率达数十万次。据悉，只上传模仿特定歌手声音的AI音乐内容的频道也多达数十个。
也有人指出其局限性。YouTube表示，将开发自己的程序，分辨出没有表明是AI生成内容的视频，但外国媒体报道说，如何准确区分这些内容尚不明确。
Asiatime报道《用AI创造个人定制成果的时代即将到来，照片、绘画、作曲、写作等AI解决方案登场》。
据全球市场调查机构Grand View Research最近的调查显示，生成型AI市场2022年创下了101亿4000万美元(约13兆1769亿韩元)的记录。预计到2030年将达到1093.7亿美元(约142.1482万亿韩元)。
也就是说，8年间增长了11倍左右。2023年下半年，随着生成型AI“ChatGPT”开始提供初期测试服务，除了IT业界相关人士外，在邮件、作文等业务上也开始习惯使用AI。
而且，随着受到启发的企业进行市场投资，以及设计AI所需的半导体芯片的英特尔、NVIDIA等积极加入，人工智能基础服务有望持续扩大。
AI解决方案的根本是文字。输入信息后输出不仅仅是文字，还能是图像、音乐、视频等多种输出方式。而且，与过去出现的以AI为基础的服务不同，ChatGPT在引起巨大话题、在短期内聚集爆发性用户的事情上，利用对话起到了最大的作用。
ChatGPT在2023年年初上市2个月后，月用户就超过了1亿人，6月月月访问者达到了15亿人左右。随着AI的活跃，企业开始提供在照片等领域备受关注的AI服务。
从naver的子公司分拆出来的企业Snow的AI证明照服务就是代表性的例子。Snow推出了只要在应用程序内的AI虚拟形象服务上传证明照，就会提供像在专门摄影棚拍摄的高品质头像的服务，2023年6月上市仅10天就吸引了约20万名用户。
最近，通过AI的形象学习，以“90年代美国毕业相册照片”等照片提供服务而备受关注。利用用户输入的8-12张自拍照片制作的Yearbook服务的成果，由The Born Korea代表理事白钟元、SK会长崔泰源等上传到SNS上，成为了话题。
此外，利用AI技术翻唱歌手从未唱过的歌曲的音源和视频被共享到SNS和各种音乐平台上，正在被激活。虽然根据现行法律，声音没有著作权，所以可以进行利用，但是因为很好地抓住歌手特征的翻唱视频有可能引发误会，因此今后有可能发生法律纷争。
另外，AI服务根据职群的特点呈现出多元化的倾向，预计今后将以符合个人使用习惯的方式不断进化，并推出新的服务。
某开发者预测：“IT界为了提高编码的准确度和业务速度，主要利用GitHub、Copilot等服务，今后寻找符合各自需要的AI服务，创造出自己想要的结果并享受的文化将更加活跃。”
11月24日，yna 报道，AI技术能延续死去艺术家继续工作。
最近发行的披头士的最后一首新曲中，AI包含了1980年去世的约翰·列侬的声音。
在韩国，已故的金光石、林成勋、林允泽等通过AI登上了舞台。
制作AI翻唱曲比想象中简单。
如果利用程序，即使不是专业开发者，也可以轻松制作翻唱曲。
实际上，Pocket Issue视频编辑用开放源代码制作了AI翻唱曲，结果在10分钟内用IU的声音完成了Mariah Carey的《All I Want for Christmas Is You》的翻唱。
AI翻唱曲制作者兼运营制作应用程序的油管博主Spot-AI-fy解释说：“如果想要达到想要的质量，有时制作一整天，短则1、2个小时就可以制作。”
他补充说：“我们认识到AI翻唱可能被非法使用。我们插入人耳听不到的水印，协助调查的形式构建了最低限度的安全装置。”
综上所述，AI带来很多便利的时候，也造成了很多弊端。
