《Frontiers in Psychology》:GANs for digital art in entertainment: techniques, applications, and aesthetic evaluation
人工智能已经彻底改变了数字娱乐,例如生成高度逼真且富有创意的视觉内容,而生成对抗网络(Generative Adversarial Networks, GANs)已被证明是用于艺术目的图像合成与生成的关键技术。本综述旨在对基于GAN的数字艺术系统、其架构、应用及评估方法进行全面系统的研究,以理解它们在当代创意人工智能(AI)研究中的角色。研究人员采用结构化综述方法(PRISMA),从关键科学数据库中获取文献,并通过明确的纳入与排除标准筛选出相关且高质量的研究。结果展示了多种GAN架构,如Vanilla GAN、DCGAN、条件GAN(Conditional GAN)、CycleGAN、StyleGAN、基于注意力的GAN(attention-based GAN)以及多模态GAN(multimodal GAN),它们被应用于游戏、动画、电影制作、虚拟现实、NFT艺术及音乐可视化等领域。该综述还强调了美学评估中的重要趋势,包括客观评估与主观评估,以及以人为中心的方法。总体而言,研究识别出一些研究空白,如评估不一致、伦理问题、计算复杂性和缺乏可解释性,并提出了未来研究方向,主要包括三个方向:混合生成模型、实时系统以及面向下一代数字娱乐的情感智能AI(emotionally intelligent AI)。
论文主体部分内容总结如下:
**1 Introduction**
**1.1 Background**
数字娱乐产业因数字技术而发生了巨大变革,为创造丰富、智能且沉浸式的多媒体体验提供了机遇。人工智能在游戏、电影制作、动画制作、虚拟现实和交互式媒体等产业中,通过优化创意生产流程并提升娱乐产品质量而发挥着重要作用。生成对抗网络(GANs)通过对抗学习生成高质量逼真图像的能力,使其成为生成式AI中的重要架构。GANs由生成器和判别器两个神经网络组成,通过极小极大博弈进行训练。近年来的进展包括EigenGAN等方法的提出,它们通过子空间学习技术提升了条件图像合成质量与生成多样性,以及通过优化对抗学习策略实现更逼真视觉效果和更高图像质量的方法。在计算创造力方面,研究者探索了GANs的创造潜力,使其能够学习艺术作品中的复杂分布,创作绘画、素描、艺术肖像和抽象视觉设计。训练集多样性对增强生成图像的创造性和美学质量至关重要,而自注意力机制与DenseNet架构的结合则改善了特征表示并生成视觉连贯的艺术图像。训练稳定性和生成一致性是研究中的关键问题,通过核直方图变换和概率质量函数距离优化等方法得以改善,同时内省GANs(introspective GANs)通过自适应对抗学习实现了增量图像生成与分类。
**1.2 Digital art in entertainment**
数字艺术是当今娱乐的重要组成部分,在游戏、电影、动画、虚拟现实(VR)和元宇宙等领域提供沉浸式视觉体验。在游戏中,基于GAN的图像合成用于程序化环境生成、角色创建和纹理设计,例如SCGAN实现了大规模虚拟世界的高效分布式图像生成。在电影和动画中,GANs用于增强CGI图像、面部合成和视觉特效,例如自注意力GANs提升了图像连贯性,FFGAN用于生成逼真的正面人脸。在VR和元宇宙应用中,GANs生成逼真的化身、环境和虚拟资产。在NFT和区块链数字艺术平台中,GANs的独特性和风格灵活性至关重要。此外,GANs还应用于交互式叙事和文化遗产保护,如基于AGD-GAN的古代壁画修复模型。
**1.3 Why GANs for art creation**
GANs因其通过对抗训练从大规模数据集中学习复杂视觉分布,并生成逼真且语义丰富的图像而广受欢迎。它们能够创建照片级写实的肖像、艺术绘画和抽象构图,并通过进化式多分支GANs实现高多样性和高创造力。GANs还广泛用于风格迁移,将艺术风格转移到新图像上。改进的GAN架构通过自注意力机制增强了风格一致性,内省GANs加强了语义一致性和增量学习,先进归一化方法提高了训练稳定性并降低了模式崩溃风险。数据集多样性和对抗学习对于提升创造性和艺术输出至关重要。
**1.4 Motivation for systematic review**
尽管已有许多关于GANs和AI生成内容的综述,但缺乏专门针对GANs技术架构、美学评估和媒体心理学的研究。现有综述通常以计算机科学视角为主,强调模型可扩展性和生成保真度,而美学评估往往是次要问题,且未整合媒体心理学或受众中心感知框架。本综述的四个主要贡献包括:提出多层分类法,涵盖GAN系统架构、生成技术、应用领域(游戏、动画、电影、VR、NFTs)和评估方法;强调美学评估,系统比较客观指标(FID、IS、PSNR、SSIM)和主观人本评估;将GAN艺术生产与媒体心理学范式(如认知负荷、处理流畅性和情感效价追踪)联系起来;专注于数字娱乐和AI的创意用途,避免工业、医疗和纯技术领域。
**1.5 Objectives**
本综述的目标是:批判性地回顾和整合基于GAN的数字艺术作品与创意AI系统的现有研究;分类和审查用于图像和艺术生成的重要GAN架构;分析GANs在游戏、动画、电影、VR和数字艺术等领域的应用;评估和比较GAN生成艺术的主客观评估技术;理解当前基于GAN的创意系统的关键问题与局限性;突出GANs在伦理、可解释性和性能方面的未来研究方向。
**1.6 Contributions of the review**
本综述的贡献在于:提供了用于数字艺术创作的GAN架构的深入分类法,对模型、应用和评估方法进行了结构化比较;概述了主客观美学评估方法,有助于理解艺术质量概念;识别了利用GANs的创意AI系统中的关键开放挑战和研究领域,包括技术挑战、评估困难和伦理考量。
**2 Background and fundamental concepts**
**2.1 Artificial intelligence in creative systems**
创意系统中的AI涵盖利用AI创建交互式、艺术性的数字内容,涉及计算创造力和生成模型。基于GAN的模型能够学习艺术风格并生成美学上令人愉悦的图像,解缠生成对抗网络可改善图像美学,此外交互式艺术生产系统Time Media聚焦于人类与AI的互动。GANs、变换器(transformers)和扩散模型(diffusion models)的显著进展已彻底改变了数字艺术和娱乐领域的AI内容生成。
**2.2 Deep learning for image synthesis**
深度学习是图像合成的关键技术,通过自动学习层次化视觉特征来生成逼真图像。卷积神经网络(CNNs)与自注意力机制在DenseNet中结合提升了合成质量,自编码器通过学习潜在表示实现图像重建和操作。基于扩散的模型(如SwinV2-ImageN和DiffiT)以及可扩展高分辨率扩散变换器模型也取得了显著贡献。总体而言,CNNs、自编码器、扩散模型和变换器提升了当代基于深度学习的图像合成系统的性能。
**2.3 Fundamentals of GANs**
GANs是一种基于对抗训练原理的深度学习模型,由生成器(从噪声生成合成图像)和判别器(分类图像真假)两部分组成。通过迭代对抗训练,两个网络轮流提升,最终生成极逼真的图像。模型采用极小极大优化策略,生成器学习欺骗判别器,判别器提升分类准确性,从而学习复杂数据分布并实现高质量图像合成。数学目标函数为 \( \min_G \max_D V(D,G) = \mathbb{E}_{x \sim p_{\text{data}}(x)}[\log D(x)] + \mathbb{E}_{z \sim p_z(z)}[\log(1 - D(G(z)))] \),其中 \( G \) 为生成器,\( D \) 为判别器,\( x \) 为真实数据样本,\( z \) 为随机噪声向量,\( G(z) \) 为生成图像,\( D(x) \) 为图像 \( x \) 为真的概率。近期进展包括StyleGAN-T用于快速文本到图像生成、MemoryGAN用于组合式图像合成等。
**2.4 Evolution of GAN architectures**
GAN架构的发展显著提升了图像合成能力,产生了高质量、稳定且可控的输出图像。早期基础模型如DCGAN改善了空间特征学习,cGAN(条件GAN)添加了条件可控生成。随后CycleGAN、StyleGAN变体、BigGAN和SAGAN等进一步实现了更逼真的图像生成、语义一致性和艺术能力。
**2.5 Digital art generation workflow**
数字艺术生成工作流包括数据集收集、预处理、训练、图像生成、后处理和评估等步骤。数据集多样性对提升艺术质量至关重要,稳定化GAN训练可改善收敛性,改进的文本到图像合成(如StyleGAN-T)也是重要环节。这些阶段对于高质量数字艺术作品生成(以FID和IS衡量)至关重要。
**3 Systematic review methodology**
本研究采用系统文献综述方法,旨在透明、可重复且严谨地选择与评估相关研究。研究通过精心筛选过程,收集了65篇高质量科学论文,涉及GAN架构、图像合成技术及应用(游戏、电影、虚拟现实、数字艺术)。排除了非艺术领域(如医学成像、工业异常检测、声纳工程)的研究,以保持与媒体心理学和数字美学主题的一致性。研究使用PRISMA框架进行系统识别、筛选、资格评估和纳入。
**3.1 Review protocol**
综述方案遵循PRISMA 2020指南,概述了研究目标、资格标准、搜索策略和分析技术。重点关注GAN架构及其在数字艺术生成中的技术发展和应用。方案系统化地描述了综述过程的每一步,以减少偏差并提高可重复性。
**3.1.1 Research question and PICOS framework**
主要研究问题为:不同GAN架构对数字艺术创作、使用及视觉感知在娱乐和创意AI领域有何影响?PICOS标准定义如下:人群(Population)为数字艺术生成、计算创造力和媒体娱乐应用(游戏、动画、电影、VR、NFTs)的实证研究和计算模型;干预(Intervention)为GAN架构的应用、修改和开发,包括基础模型(Vanilla GAN、DCGAN)和高级模型(条件GAN、CycleGAN、StyleGAN、注意力GAN、多模态GAN);比较(Comparator)为不同GAN架构、基线生成模型及新兴生成范式(扩散模型、变换器架构)的比较评估;结果(Outcomes)包括客观指标(FID、IS、PSNR、SSIM)和主观人本指标(用户偏好、专家艺术评价、认知负荷、创造力感知),以及次要技术参数(训练稳定性、图像分辨率、计算效率);研究设计(Study Design)为2015-2026年发表在高影响力期刊和会议上的同行评审实证研究、实验评估和系统综述。
**3.2 Research databases**
文献检索自IEEE Xplore、ScienceDirect、SpringerLink、ACM Digital Library、Scopus、Web of Science和Google Scholar等多个知名学术数据库,以覆盖GAN领域广泛文献。这些数据库提供人工智能、机器学习和计算机视觉的同行评审期刊和高影响力会议论文集,减少出版偏差。
**3.3 Search strategy**
采用结构化搜索策略,使用关键词和布尔运算符,包括“GAN”或“Generative Adversarial Network”与“Digital Art”“AI Art”“Image Synthesis”及特定应用术语(如“Gaming”“Film”“Metaverse”)的组合。对StyleGAN、CycleGAN和条件GAN等架构使用更细粒度的查询。时间范围限定为2015-2026年,重点考虑近期研究(2023-2026年)。
**3.4 Inclusion criteria**
纳入标准包括:仅考虑同行评审的英文期刊文章和高质量预印本;研究涉及使用GAN进行图像生成、艺术合成或娱乐、游戏、虚拟现实、数字艺术领域的创意应用;发表于2015-2026年;仅采用具有清晰方法论、明确数据集和评估指标的实证研究。
**3.5 Exclusion criteria**
排除标准包括:使用非GAN方法或与创意和视觉应用不直接相关的研究;非同行评审的评论文章、无方法或实验评估的研究;来自多个数据库的重复数据;仅专注于非艺术领域(如工业异常检测、非相关生物医学应用)的研究。
**3.6 PRISMA flow diagram**
研究选择过程遵循PRISMA流程图,包括识别、筛选、资格评估和纳入四个阶段。识别阶段从各数据库获取约210-250条记录,去除重复后剩余约170项进行初步筛选。通过标题和摘要筛选排除不相关研究,然后在资格评估阶段分析全文以确定方法学相关性和主题契合度,最终纳入65项研究。其中61项核心实证研究明确提供了数据集、应用和指标数据,另外4项为综述和理论论文,用于构建概念分类但未提供独立实证指标。
**3.7 Quality assessment**
对所有纳入研究进行方法学严谨性评估,评估标准包括方法清晰度、实验验证、可重复性和数据集透明度。每项研究在每个标准上获得0-2分,总分8分。实验设计完善、架构定义清晰、数据集明确的研究获得更高分数,确保纳入高质量可靠研究。
**3.8 Data extraction strategy**
遵循标准化数据收集策略,系统提取相关数据,包括GAN类型、数据集类型、应用领域、评估指标、关键结果和报告的限制。该过程确保研究比较的一致性,并有助于制定分类和分类方案,发现GAN架构、增强和特定应用适应中的模式。
**4 Taxonomy of GAN-based digital art generation**
GANs分类法提供了从初始生成到更复杂模型的GAN模型结构化概述。根据架构(Vanilla GAN、DCGAN、cGAN、CycleGAN、StyleGAN、注意力GANs)、生成技术、风格迁移技术及应用(文本到图像合成、高分辨率图像生成、3D生成、交互式和情感感知生成)进行分类。该分类还反映了它们在数据集和评估方法上的使用。
**4.1 Architecture-based classification**
基于架构的分类将GAN分为基础GAN(如Vanilla GAN和DCGAN)和高级GAN(如cGAN、CycleGAN、StyleGAN、注意力GANs和多模态GANs),强调架构改进在提升生成图像质量、训练稳定性和可控性方面的作用。
**4.1.1 Vanilla GAN**
Vanilla GAN由生成器和判别器组成,通过对抗博弈生成逼真合成图像。生成器从随机潜在向量生成图像,判别器分类图像真假。该简单模型为后续GAN模型奠定了基础。例如SCGAN扩展了经典GAN到协作分布式图像生成系统,Vela等人通过循环生成策略和top-k训练方法提升了艺术图像生成质量。
**4.1.2 DCGAN**
DCGAN将卷积神经网络融入GAN,增强特征提取和空间表示学习。使用卷积和转置卷积层替代全连接层,实现更稳定训练和更高质量图像生成。Xin提出了改进的DCGAN架构用于快速高分辨率图像生成,Shatri等人测试了DCGAN模型用于手写音乐符号合成。
**4.1.3 Conditional GAN**
条件GAN(cGANs)向生成器和判别器添加辅助信息(如标签、语义属性、文本描述),实现受控和定向图像生成。Zhang和Schomaker探索了潜在空间优化和可解释性问题以增强语义一致性和可控性,Hu等人提出了变分条件GAN模型用于可控细粒度图像生成。
**4.1.4 CycleGAN**
CycleGAN架构广泛用于未配对图像到图像翻译任务,基于循环一致性损失保持结构一致性。Zhao将其应用于视觉传达设计中的风格迁移,Nigam等人提出了频率分布CycleGAN(FDCGAN)用于图像翻译,Shatri等人比较了CycleWGAN架构用于手写音乐合成。
**4.1.5 StyleGAN family**
StyleGAN系列通过自适应归一化和潜在风格操作生成高分辨率、逼真图像,极大提升了照片写实度、可控性和多样性。Sauer等人提出了StyleGAN-T用于快速可扩展文本到图像生成,StyleGAN-XL应用于大规模多样化数据集以增强合成稳定性和视觉保真度。
**4.1.6 Attention-based GANs**
基于注意力的GANs引入自注意力、交叉注意力和通道注意力机制,用于建模长距离依赖和上下文关系。Xu等人提出了AttnGAN用于基于注意力机制的文本条件图像生成,Lu引入了混合自注意力技术(USE-CMHSA-GAN)用于动漫图像生成,Tang等人提出了增强多尺度交叉注意力模型用于人物图像生成,Wang等人利用CAFE-GAN结合CLIP投影表示和注意力感知生成用于少样本植物病害图像生成。
**4.1.7 Multi-modal GANs**
多模态GANs使用多种模态(文本、语义嵌入、图像)生成上下文相关的图像,对数字艺术和文本到图像合成任务至关重要。Kang等人提出了大规模GAN架构用于文本到图像合成,Sauer等人将文本编码融入StyleGAN-T,Xu等人设计了AttnGAN,Zhang和Schomaker研究了条件文本到图像GAN的潜在空间优化技术。
**4.2 Image synthesis techniques**
图像合成技术指从输入表示(如随机噪声或语义信息)创建图像的过程,包括噪声到图像生成和语义合成,使GANs能够生成连贯、多样且语义相关的图像。
**4.2.1 Noise-to-image generation**
噪声到图像生成是GANs的基本应用,通过对抗学习从随机噪声向量生成视觉连贯的数字图像。Omar等人提出了CapGAN,通过胶囊网络增强特征表示和语义一致性,Wang等人引入了MemoryGAN,使用异构记忆模块帮助生成器记住视觉组合模式。
**4.2.2 Semantic synthesis**
语义合成基于语义属性、对象标签或上下文信息生成图像,允许生成具有连贯主题和有用架构特征的图像。Jin等人引入了逐步多粒度语义融合框架(GMF-GAN),融合多种语义表示进行文本到图像生成,逐步合并细粒度语义细节以弥合文本描述与视觉输出之间的差距。
**4.3 Style transfer techniques**
风格迁移技术利用源图像的视觉风格(笔触、纹理、色彩组合)衍生目标图像,同时保持内容结构。
**4.3.1 Artistic style transfer**
艺术风格迁移基于GAN的方法实现了无需人工干预的不同艺术风格渲染。Habib等人讨论了GAN架构在艺术风格合成中的进展,强调GANs捕获高级艺术抽象和风格语义的能力。Yuan等人提出了RII-GAN,利用多尺度对齐策略和反向图像交互网络增强生成艺术品的视觉一致性。
**4.3.2 Cross-domain translation**
跨域翻译将图像从一个视觉域转换到另一个视觉域,同时保留关键结构特征,常用于素描到绘画、照片到动漫等转换。Liu等人展示了具有注意力机制的条件GANs可实现语义域适应并保持图像真实性,Ouyang等人通过包含上下文语言引导和图像翻译机制增强了细粒度文本到图像生成任务。
**4.4 Text-to-art generation**
文本到艺术生成使用GAN从文本描述生成视觉艺术品,实现文本到图像的直接翻译,包括提示驱动生成和语言引导合成。
**4.4.1 Prompt-based generation**
提示驱动生成允许用户通过文本描述引导GAN模型生成数字艺术品。Omar等人展示了CapGAN能够从文本提示生成视觉连贯的艺术图像,Jin等人强调了不同粒度语义融合在增强语言到艺术相关性中的作用。
**4.4.2 Language-guided synthesis**
语言引导合成扩展了提示驱动生成,在图像生成过程中提供更丰富的语言知识和上下文感知。Ouyang等人引入了细粒度文本到图像合成框架,能够解释文本描述中的语义关系,Yuan等人引入了多尺度语义对齐以改善语言引导图像合成。
**4.5 High-resolution art generation**
高分辨率艺术生成关注创建和细化详细的高质量图像,包括渐进式GANs和超分辨率GANs。
**4.5.1 Progressive GAN**
渐进式GAN技术在训练过程中逐步增加图像分辨率,建立稳定训练过程并提升图像质量。Habib等人指出渐进训练方法有助于GANs学习全局结构和精细艺术纹理,渐进式GANs生成高质量、逼真图像,适用于专业数字艺术。
**4.5.2 Super-resolution GAN**
超分辨率GANs旨在提升低分辨率图像的分辨率和清晰度,同时保持艺术纹理和语义细节。Wang等人提出了SP-IGAN,利用语义先验知识进行现实世界图像超分辨率,在保持复杂纹理、边缘和风格特征方面表现更准确。
**4.6 3D art and scene generation**
GANs用于生成3D艺术和场景,包括3D GANs用于体积建模和神经渲染用于逼真场景合成,常用于VR、游戏和数字应用。
**4.6.1 GANs**
3D GANs通过学习体积或几何表示生成3D对象和场景,可生成逼真环境、雕塑、化身和虚拟资产,对游戏和元宇宙应用至关重要。Habib等人讨论了基于GAN的3D生成技术在数字创造力中的日益重要性。
**4.6.2 Neural rendering**
神经渲染结合深度学习与计算机图形学,通过学得表示生成照片级逼真场景。GANs的神经渲染用于生成复杂光照、纹理和空间关系,Yuan等人展示了多尺度对齐机制可增强场景真实感和纹理连续性。
**4.7 Interactive and adaptive GANs**
交互式和自适应GANs允许用户动态参与并快速生成图像,包括人机交互系统和实时生成系统,激发数字艺术和多媒体应用中的创造力、控制性和响应性。
**4.7.1 Human-in-the-loop systems**
人机交互(HITL)GAN系统在生成过程中融入用户反馈,增强个性化和创造力。Habib等人指出交互式GAN框架允许艺术家通过迭代调整风格、构图或语义信息来修改生成输出,旨在协调人类创造过程与机器能力。
**4.7.2 Real-time generation**
实时GAN生成指以最小处理时间即时生成艺术作品的能力。Ouyang等人指出使用有效语义合成方法可提升图像生成效率,实时GAN系统已广泛应用于实时数字绘画、交互式多媒体、增强现实滤镜和游戏。
**4.8 Emotion-aware art generation**
情感感知GANs基于人类情感(如快乐、悲伤、兴奋)生成图像,包括情感驱动生成和情感计算,以产生情感表达和适应性视觉输出。
**4.8.1 Sentiment-driven generation**
情感驱动生成指创建具有特定情感(如快乐、悲伤、兴奋、平静)的艺术作品。GANs处理文本、面部或背景上下文的情感内容,生成具有情感表达的艺术品。Habib等人讨论了现代GAN架构中情感共鸣图像生成的各个方面,此类系统日益应用于治疗性艺术、情感叙事和定制数字体验。
**4.8.2 Affective computing**
情感计算在GANs中强调人类情感的计算机表示和建模,用于生成适应性艺术内容。Yuan等人展示了使用语义对齐和上下文交互网络可增强生成图像的情感一致性,将情感计算与GANs集成使数字艺术系统能够适应用户情感状态,产生更富有情感和个性化的艺术体验。
**5 Application-based classification**
基于应用的分类将GANs应用于游戏、动画、电影、VR和元宇宙、NFT和加密艺术、音乐可视化等真实领域。
**5.1 Gaming**
在游戏行业,GANs广泛用于角色设计、环境生成、纹理合成和程序化内容创建。Lataifeh等人展示了GANs通过生成新颖角色概念和风格来提升角色设计师的创造力,并提出了人机共创模型。Hu等人提出了交互式基于GAN的设计生成系统用于空间计算应用,Wang等人引入了MemoryGAN用于组合式图像合成,实现更逼真和结构一致的游戏环境。
**5.2 Animation**
GANs在动画领域用于渲染、合成、运动增强和帧插值,可自动生成背景集、面部表情和中间动作,简化动画制作流程。Hu等人设计了基于GAN的交互式生成方法用于生成视觉一致的动画环境,Zhang和Schomaker探索了条件GAN的潜在空间优化以控制语义变化和图像操作。
**5.3 Film industry**
在电影行业,GANs广泛用于视觉特效、深度伪造、面部合成、场景重建和CGI增强。Al Kishri等人比较了基于GAN的面部操纵对抗技术,Say等人研究了深度伪造的伪影和检测技术,Deressa等人提出了GenConViT用于检测深度伪造视频,Javed等人提出了结合局部全局特征学习与扩散模型的多模态深度伪造检测方法。
**5.4 VR and metaverse**
GANs在VR和元宇宙应用中用于生成逼真化身、虚拟资产、创建沉浸式环境和建模交互式世界。Lataifeh等人展示了使用GANs的共创方法生成个性化化身和角色模型,Hu等人提出了基于GAN的交互式空间计算系统用于实时虚拟资产生成和优化,Wang等人开发了MemoryGAN用于组合式图像合成,为元宇宙平台生成复杂虚拟环境和场景组件。
**5.5 NFT and crypto art**
GANs通过自动化艺术生产、创建独特数字艺术作品和AI生成视觉内容,改变了NFT和加密艺术领域。Lataifeh等人展示了GANs可增强艺术创造力,生成新颖视觉角色设计和艺术概念用于数字收藏品。Zhang和Schomaker探索了条件GAN中的可解释潜在空间优化,实现个性化NFT资产生成和受控AI艺术作品创建。Hu等人引入了交互式基于GAN的创意系统,用于数字艺术平台和元宇宙经济。
**5.6 Music visualization**
GANs越来越多地用于音乐可视化,生成音频反应性视觉艺术、同步多媒体效果和沉浸式艺术体验。Hu等人提出了基于GAN的交互式视觉生成系统,可产生具有自适应视觉效果和沉浸式多媒体环境的音乐可视化应用。Zhang和Schomaker研究了条件文本到图像GAN架构,用于语义和音频条件图像生成。
**5.7 Dataset-based foundations for GAN training and evaluation**
数据集对GAN训练和测试至关重要,标准数据集提供不同视觉和语义信息,自定义数据集用于面向特定领域的应用。
**5.7.1 WikiArt dataset**
WikiArt数据集包含大量不同艺术运动和画家的画作,用于训练GAN模型学习艺术构图、色彩混合、纹理形成和绘画风格。Khan等人指出WikiArt使AI系统学习并模仿人类艺术风格,Zhang和Schomaker指出WikiArt数据集增强了条件文本到图像GAN模型中的潜在空间优化和语义一致性。
**5.7.2 CelebA dataset**
CelebA数据集广泛用于面部生成和面部属性操作任务,包含标注了多种面部特征(如表情、发型、性别、年龄)的 celebrity 面部图像。Wei和Wang引入了并行GAN框架用于面部属性编辑和分离,Sowmya等人使用CelebA用于注意力多模态GAN面部合成。
**5.7.3 ArtBench dataset**
ArtBench数据集专为艺术图像分类和艺术生成基准测试设计,包含分类的艺术样本,用于训练GAN模型学习不同艺术风格和视觉语义。Khan等人强调了艺术基准数据集在比较AI生成作品与人类作品中的作用,Zhang等人展示了基于变换器的GAN架构在结构化艺术数据集上训练时在合成效率和视觉质量方面优于其他方法。
**5.7.4 Danbooru dataset**
Danbooru数据集是大型动漫插图数据集,广泛用于合成动漫图像或生成动漫角色,包含数百万基于面部表情、姿势、服装和艺术风格标注的动漫图像。Zhang和Schomaker指出包含丰富语义标签的数据集增强了条件GAN模型中的可控图像生成和潜在空间解释。
**5.7.5 ImageNet dataset**
ImageNet数据集因其数百万张涵盖数千类别的图像而广泛用于GAN研究,提供丰富的视觉信息,增强特征学习、迁移学习和大规模合成图像生成。Zhang等人使用大规模图像数据集提升基于变换器的GAN性能,ImageNet还常用于预训练GAN编码器和稳定对抗学习过程。
**5.7.6 Custom datasets**
研究人员为特定领域GAN任务创建自定义数据集,如医学成像、虚拟化身创建、文化艺术品合成或个性化数字艺术。Khan等人使用自定义训练的AI生成和人类制作图像集来研究两者之间的关系,Wei和Sowmya等人调整了CelebA数据集的子集并采用预处理方法以增强面部属性编辑和逼真面部合成结果。
**6 Aesthetic evaluation of GAN-generated art**
美学评估评估GAN生成艺术的能力,结合客观测量与主观人类评价,关注创造力、解释和公平评估。
**6.1 Importance of aesthetic evaluation**
美学评估对衡量AI在捕捉人类关于创造力、真实性、情感表达和艺术价值观念方面的有效性至关重要。Meng等人指出动态生成艺术的美学感知随时间变化,Stein等人指出传统GAN评估指标可能偏向特定架构或数据集,Yang等人指出真实性、多样性和语义一致性难以用单一指标衡量,需要多维评估框架,Zhang和Schomaker展示了潜在空间可解释性对AI艺术的可控性和感知质量至关重要。
**6.2 Objective evaluation metrics**
客观评估量化图像质量、真实性和生成图像与真实图像之间的相似性,提供可重复和自动化的评估过程。
**6.2.1 Inception Score (IS)**
IS通过预训练神经网络评估生成图像的质量和多样性,衡量分类置信度和类别多样性,但不考虑语义正确性或艺术创造力,有时对非真实图像给出误导性高分。
**6.2.2 Fréchet Inception Distance (FID)**
FID测量真实图像与生成图像特征分布之间的统计距离,量化生成图像与真实图像的相似性,值越低表示质量越好。FID对特征提取方法、数据集大小和预处理步骤敏感,Stein等人指出即使高感知质量也不一定导致FID不惩罚某些模型。
**6.2.3 Peak Signal-to-Noise Ratio (PSNR)**
PSNR通过逐像素比较重建图像与原始图像之间的差异来评估重建质量,常用于超分辨率应用中的图像重建质量评估,高PSNR值表示更好的结构重建,但不一定代表更高的感知或视觉质量。
**6.2.4 Structural Similarity Index Measure (SSIM)**
SSIM基于亮度、对比度和结构信息评估生成图像与参考图像之间的图像质量,广泛视为衡量GANs保持视觉结构和纹理能力的方法。Park等人指出SSIM在评估高分辨率输出的结构一致性方面表现良好,但可能不足以评估艺术抽象和风格原创性。
**6.3 Subjective evaluation and media psychology perspectives**