谷歌说明其以人工智能技术生成图像内容是如何确保安全,以及相关技术背后的透明性。
目前包含谷歌图片、谷歌 Lens、画圈搜索等服务都将加入相关凭证或内容来源信息,而谷歌也计划利用C2PA协助YouTube观众确认哪些画面是通过相机实际拍摄,相关功能预计会在今年稍晚时候提供。
另外,谷歌也准备在广告内容引入C2PA元数据,但目前尚未公布相关应用细节,但预期将让用户能更容易确认哪些广告内容可能有造假。
但上述作法依然取决相机制造商是否在相关产品加入C2PA技术标准,而各类人工智能技术供应商也必须采纳使用C2PA数码水印系统。 不过,一旦有心人士通过特定方式移除图像的数字水印、元数据资料,依然会让谷歌相关识别作法难以判断。
因此,谷歌说明当前要识别所有网络流传内容实际来源是相当复杂挑战,同时也还没有合适办法能完美解决此问题,因此持续与业界持续合作、互相交换解决方案变得更加重要,而自身也会持续扩展更多识别人工智能生成内容的技术, 例如将SynthID标记方式导入新一代人工智能工具,让更多生成内容可以更容易被识别。
继今年5月说明通过SynthID标记自动生成影片,更与亚马逊、Meta、OpenAI等业者合作建立针对自动生成式人工智能产生内容增加识别数字水印的标准技术,另外也加入C2PA等业界标准,让内容的元数据(metadata)可加入能被识别资料,并且无法通过任何方式进行窜改,藉此作为识别内容真伪依据。
而在稍早对外说明中,谷歌强调将识别凭证进一步整合至其服务产品,让使用者能在谷歌搜寻服务条列图像内容是否以自动生成式人工智能技术创建,或是经过人为修改,若搜索图像同时具备C2PA元数据内容,使用者还能通过相关连结进一步确认图像内容生成来源。