DL4J

DL4J官网,Deeplearning4j,基于JVM的开源深度学习框架

什么是DL4J?

DL4J（Deeplearning4j）是由Skymind开源并维护的一款基于JVM的深度学习框架。作为少数能够原生支持分布式模型训练的框架之一，DL4J在Spark平台上也表现出色。此外，DL4J还支持多GPU集群，并且能够与高性能异构计算框架无缝衔接，进一步提升计算性能。

DL4J官网: https://deeplearning4j.konduit.ai/

DL4J github项目地址: https://github.com/deeplearning4j/deeplearning4j

DL4J主要功能

DL4J是使用Java和Scala编写的框架，通过与Hadoop和Spark集成，能够处理大规模数据。它的内部使用了基于Java N维数组实现的库，即ND4J（N-Dimensional Arrays For Java），用于处理各种n维数组对象。ND4J支持GPU计算，有助于加速深度学习的迭代训练速度。实际上，ND4J是一个科学计算库，属于低阶API，而DL4J则是高阶API，类似于Keras。

除了ND4J，DL4J还包括其他组件，如DataVec（用于数据集加载和转换）、SameDiff（基于图的自动微分和深度学习框架）、Arbiter（超参数搜索）和LibND4J（底层C++库，调用cuDNN、OpenBLAS等库以支持CPU/GPU计算）。这些库共同支持基于JVM的深度学习应用程序的各种需求。

DL4J将数据集处理与算法模型训练分开。它使用DataVec库加载和转换数据集，并使用张量和ND4J库进行模型训练。通过DataVec库的RecordReaderDataSetIterator获取数据，使用ND4J库的DataSet来封装训练数据。DataSet是一个存储数据特征和标签的容器，可以封装单个训练数据或一个Mini-batch。每次迭代时，使用一个DataSet来更新神经网络中的参数。在DL4J中构建训练数据集，最终生成一个DataSet迭代器或DataSet序列。

通过DL4J，开发人员能够方便地处理大规模数据和进行分布式模型训练。它的灵活性和高性能使得在JVM生态系统中进行深度学习变得更加便捷和高效。

DL4J(Deeplearning4j)是Skymind开源并维护的一个基于JVM 的深度学习框架。也是在Spark平台上可以原生支持分布式模型训练的为数不多的框架之一。DL4J还支持多GPU集群，可以与高性能异构计算框架无缝衔接，进一步提升运算性能。

DL4J中除了ND4J外，还有DataVec(用于数据集的加载和转换)，SameDiff(基于图的自动微分、深度学习框架)，Arbiter(超参数搜索)，LibND4J(底层C++库，调用cuDNN、OpenBLAS等库支持CPU/GPU计算)。ND4J通过这些库共同支撑基于JVM的深度学习应用程序的所有需求。

DL4J将数据集处理与算法模型训练分开处理，使用DataVec库加载和转换数据集，使用张量和 ND4J库训练模型。通过DataVec库的RecordReaderDataSetIterator获取数据，ND4J库的DataSet(存储数据特征和标签的容器)对训练数据进行封装，可以封装单条训练数据，也可以封装一个 Mini-batch，每一次迭代用一个DataSet更新神经网络中参数。在DL4J中构建训练数据集，最终就是生成一个DataSet迭代器或DataSet序列。