半导体器件模拟中求解线性系统的预条件处理方法 半导体器件模拟中求解线性系统的预条件处理方法

半导体器件模拟中求解线性系统的预条件处理方法

  • 期刊名字:东南大学学报
  • 文件大小:
  • 论文作者:刘其贵,吴金,肖志强,魏同立
  • 作者单位:东南大学微电子中心,
  • 更新时间:2023-03-25
  • 下载次数:
论文简介

对半导体器件模拟中求解线性方程组的预条件处理方法,即不完全LU分解方法进行了研究.首先介绍了ILU分解的理论基础,说明了采用预条件处理方法对解决线性方程组迭代求解收敛的重要性.然后介绍了由ILU方法发展而来的ILUV方法,并在对ILU和ILUV方法的理论研究和算法分析的基础上,提出了兼容以上2种方法优点的ILUVP方法,解决了ILUV方法中参数ψ的选取无法兼顾计算量和收敛速度不同要求的难题.最后通过对一个存在陡峭层分布的漂移扩散方程进行求解的实例,验证了算法的可行性和有效性.

论文截图
版权:如无特殊注明,文章转载自网络,侵权请联系cnmhg168#163.com删除!文件均为网友上传,仅供研究和学习使用,务必24小时内删除。