二、基于图像和结构化数据多模态融合的回归预测网络【框图讲解+源码】

整理读研期间做的项目与日常小实验
本篇未完待续…代码部分整理后补充

0. 背景

实验室有一些材料的SEM(扫描电镜)图像、也有对应的组分信息(结构化数据,包含类别特征和连续的数值特征),以及对应的力学性能指标。
当时看多模态论文比较多,便想着既然有数据,正好可以用这些数据练习一下,于是,搭建一个多模态融合的模型,融合图像信息和材料的组分信息两种模态的数据信息,进行回归预测。

1. 网络结构

搭建的多模态融合模型框架如下图所示:
在这里插入图片描述

网络模型如下图所示:

网络结构

2. 结构分析

2.1 CBAM模块

CBAM模块如下:
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

2.2 网络A结构

在这里插入图片描述

2.3 网络B结构

在这里插入图片描述

2.4 AdaptiveFusion结构

(1) 结构1

在这里插入图片描述
在这里插入图片描述

(2) 结构2

Concat or Sum

(3) 结构3

MHSA
在这里插入图片描述

3. 代码

pass



附录1、CNN卷积层特征图可视化

下图为SEM图像中间特征层的可视化效果:
在这里插入图片描述
实现代码可以参考下面:
【卷积神经网络卷积层提取的特征图可视化】

pass


相关推荐

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2023-12-28 14:20:04       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2023-12-28 14:20:04       106 阅读
  3. 在Django里面运行非项目文件

    2023-12-28 14:20:04       87 阅读
  4. Python语言-面向对象

    2023-12-28 14:20:04       96 阅读

热门阅读

  1. 2023-12-28 补充心得

    2023-12-28 14:20:04       62 阅读
  2. LeetCode刷题笔记之双指针算法

    2023-12-28 14:20:04       46 阅读
  3. Python 轻量级的定时任务调度工具

    2023-12-28 14:20:04       61 阅读
  4. 674. 最长连续递增序列

    2023-12-28 14:20:04       61 阅读
  5. ElasticSearch 数据备份参考

    2023-12-28 14:20:04       64 阅读
  6. C# 时间获取

    2023-12-28 14:20:04       48 阅读