《International Journal of Architectural Computing》:Discrete style transfer: Syntax, technique, meaning
编辑推荐:
本研究提出离散风格迁移(DST),将其作为传统神经风格迁移方法的一种替代方案,将该操作从无缝混合重构为基于部件的替换。VGG风格迁移、生成对抗网络(GAN)和扩散模型等神经模型偏向于连续性,生成的图像在视觉上连贯但在认知上疏离,抹除了对人类感知、批判和制作至关
本研究提出离散风格迁移(DST),将其作为传统神经风格迁移方法的一种替代方案,将该操作从无缝混合重构为基于部件的替换。VGG风格迁移、生成对抗网络(GAN)和扩散模型等神经模型偏向于连续性,生成的图像在视觉上连贯但在认知上疏离,抹除了对人类感知、批判和制作至关重要的接缝。基于理论洞见,论文主张接缝和不连续性应被视为设计数据而非缺陷。该研究开发的方法将图像细分为自适应四叉树瓦片,使用自编码器将其编码为潜在嵌入,并通过最近邻搜索替换部件。结果表明,与替代图像比较方法和马赛克基线相比,该方法在速度和风格保真度方面显著提升,同时在视觉相似性上与神经风格迁移相当。除效率之外,离散风格迁移产生的模块化、可解释的输出与重复、装配和材料能动性的建筑逻辑相一致。
论文解读:离散风格迁移——接缝作为设计数据与建筑逻辑的重构
在计算机视觉与建筑设计的交叉领域,神经风格迁移自Gatys等人提出以来,一直以无缝融合为核心范式。然而,这种技术上的连续性偏好并非中性的选择,而是暗含了认知、伦理与材料层面的深远后果。Danahy Patrick发表在《International Journal of Architectural Computing》上的论文《Discrete style transfer: Syntax, technique, meaning》针对这一现状提出了根本性的批判与重构。研究背景可追溯至“第二次数字转向”以来,计算工具从执行工具转变为思维与预测工具,图像文化、生产逻辑与制造模式相互作用。神经风格迁移通过分离深度卷积表征中的内容与风格再加以重组,实现了“艺术化”图像的生成,但其核心操作——多层卷积特征的平滑与再纹理化——牺牲了人类视觉认知依赖的关键结构线索。
当前存在的问题在于,以VGG风格迁移、生成对抗网络(GANs)和扩散模型为代表的生成方法共享一个算法承诺:连续性、可微流形与全局目标最小化。这种技术偏向导致输出图像虽然表面连贯,却在认知上令人疏离,因为其抹除了接缝——这些接缝恰恰是人类进行场景解析、物体识别与批判性解读的根本线索。Vassallo批判了数字拼贴对连接痕迹的抹除,Young进一步指出,蒙太奇的政治力量正来源于切口的可见性。Koehler的构件论(mereology)和Retsin的离散制造实践则提供了重构的路径:将部分与整体的关系视为设计原点,让接缝成为有意义的连接器而非残余。基于这一系列理论洞见,研究者论证了连续性不仅是美学偏好,更是一种带有认知、物质与政治后果的计算先验,由此确立了发展离散风格迁移(DST)的理论基础。
研究人员开展了一项以预合成细分为核心的部件替换式风格迁移研究。DST通过将图像显式划分为离散瓦片,将每一瓦片编码为潜在向量,并以最近邻搜索进行部件级替换,取代传统神经网络的全局优化融合。研究首先从理论层面证明了接缝与不连续应当作为设计数据处理,并通过一系列实验验证了该方法的有效性。结果表明,DST在速度和风格保真度上显著优于LPIPS循环替代方法和马赛克基线,同时与神经风格迁移在视觉相似性上保持竞争力。更重要的是,DST产生的输出是模块化、可解释的,并非无缝融合的图像,而是可见接缝的装配体,与建筑设计中的重复、装配和材料能动性逻辑高度一致。从方法论角度,这项研究重新定义了风格迁移的性质:风格不再是纹理的连续混合,而是一种在语法约束下的部件置换操作,意义在部分间的排列与依赖中涌现。
为开展研究,论文主要应用了三项关键的技术方法。第一,采用自适应四叉树细分技术将图像分解为多尺度瓦片,以像素标准差阈值控制细分的粒度和位置,而非依赖语义边界。第二,设计了一个轻量级堆叠自编码器(该编码器将256×256×3的RGB图像压缩为32×32×8的潜在表示),将每一瓦片嵌入到一个8192维的潜在特征空间,从而在避开预训练分类网络的类别偏见的同时保留局部视觉结构。第三,利用K近邻(KNN)算法在潜在特征空间中执行显式的部件匹配和替换,替代了传统的迭代优化或LPIPS逐对比较。全部图像样本来源于Textures.com纹理库,算法在Python环境中实现,并使用TensorFlow与PyTorch管理GPU加速,OpenCV处理图像输入输出。
研究结果显示了三方面主要成果。在“Time-based performance”方面,DST结合KNN的管线在处理538张内容图像时仅需约1分2秒,且该耗时基本不受风格图像数量影响,平均每张瓦片的嵌入与最近邻查询耗时仅26-32毫秒。对比之下,基于LPIPS的嵌套循环方法需要进行内容瓦片与候选瓦片之间所有成对的卷积前向推理,计算成本随集合规模线性增长。在四叉树细分阈值设置为128和56的固定5部件条件下,DST输出可在约1秒内完成;当细分阈值降至24(产生数万瓦片)时,处理耗时约2分40秒至3分30秒,与VGG-19神经风格迁移在相同图像和硬件约束下的运行时间基本持平。JavaScript实现的马赛克基线方法同条件下耗时1分48秒至2分32秒。在“Perceptual similarity performance”方面,研究使用结构相似性指数(SSIM)和均方误差(MSE)对DST、马赛克替换和VGG神经风格迁移进行比较。DST在风格输入相似性上表现优异,获得较高的SSIM与较低的MSE,这源于其直接以风格图像的部件替换内容瓦片;VGG在内容相似性上优于DST,符合其通过特征融合平衡内容与风格的设计目标;马赛克替换在内容与风格两类指标上均表现不佳。研究者指出,这种内容相似性的减退并非缺陷,而是从无缝复制向替换驱动重组的有意转变。在“Comparison with other models”方面,DST并未试图在原始视觉相似性上超越神经风格迁移——后者凭借均衡的内容与风格保持能力依然是传统标杆——而是提供了一种完全不同的概念框架。DST的输出在风格相似性上保持竞争力,远超马赛克基线,同时具备可索引的部件、固定的细分结构与可见的接缝,这使得它更适合设计过程中的迭代操作与装配逻辑探索。
讨论部分指出,DST通过显式地处理对象局部片段而非完整语义单元,将风格迁移从无缝混融重构为基于部件的替换。这些局部片段并不构成完整组件,而是边缘未闭合的碎片,抵抗图元的直接识别。由此生成的图像不再依赖连续形体或稳定对象身份来组织意义,而是通过重复、模块化和邻接关系构成可被认为“认知活跃”的关系图表。研究者在“Material substitution in fa?ade design”小节中通过Machined Assemblies项目展示了DST从二维图像处理向三维制造规划扩展的潜力:三维扫描的建筑碎片被数字化、细分并在基础网格结构中通过最近邻匹配重组为浮雕墙体,其接缝以阴影线和深度不连续的方式保持可见,编码了潜在的节点要求、荷载传递路径和装配顺序,使输出同时作为表征和制造指令。
研究结论可以翻译为:有了这些增强,离散风格迁移不仅是图像生成工具,而是一种植根于部件推理的设计方法论。通过保留接缝、局部片段和显式对应关系,DST直接回应了引言中对连续性的批判。它重新将风格迁移定位为服务于批判性解读和材料问责的工具,在其中图形通过可见的关系构建起来,而非溶解于无缝的综合之中。该方法的意义在于,它证明了连续性并非唯一或最优的计算先验,一个以接缝为设计数据、以部件替换为操作逻辑的系统,能够在保持视觉质量的同时,恢复图像中被抹除的构造痕迹并将风格迁移重新连接到真实世界的组装与制造逻辑之中。