使用RandomNormal()初始化器对神经网络的初始权重进行正态分布初始化
在神经网络中，初始化权重是一个关键的步骤。对于深度神经网络来说，合适的权重初始化可以帮助网络更快地收敛并提高模型的性能。而正态分布是一种常用的权重初始化方法，通过对权重进行正态分布初始化，可以使得权重在训练过程中更好地更新，从而提高模型的性能。
在TensorFlow中，我们可以使用初始化器（initializer）来对神经网络的权重进行初始化。其中，tf.keras.initializers.RandomNormal()是一种常用的初始化器，它会按照正态分布随机初始化权重。
首先，我们需要导入相应的库：
import tensorflow as tf
import numpy as np
接下来，我们创建一个简单的神经网络模型，包含两个全连接层：
model = tf.keras.Sequential([
tf.keras.layers.Dense(64, activation='relu', input_shape=(784,)),
tf.keras.layers.Dense(10, activation='softmax')
])
在这个例子中，我们使用了一个包含64个隐藏单元的全连接层作为模型的 层，激活函数为ReLU。然后，我们使用了一个包含10个输出单元（对应分类的类别数量）的全连接层，激活函数为softmax。输入数据的维度为(784,)，这是因为我们使用了MNIST数据集，每个样本都是一个形状为(28, 28)的图像，我们将其展平为一个形状为(784,)的向量。
接下来，我们使用RandomNormal()初始化器对模型的权重进行初始化。我们可以通过设置kernel_initializer参数来指定初始化器：
model = tf.keras.Sequential([
tf.keras.layers.Dense(64, activation='relu', input_shape=(784,), kernel_initializer=tf.keras.initializers.RandomNormal(stddev=0.01)),
tf.keras.layers.Dense(10, activation='softmax', kernel_initializer=tf.keras.initializers.RandomNormal(stddev=0.01))
])
在上面的例子中，我们设置了kernel_initializer参数为tf.keras.initializers.RandomNormal(stddev=0.01)，其中stddev=0.01表示生成的随机数服从均值为0、标准差为0.01的正态分布。这样，模型的权重将按照这个正态分布进行随机初始化。
最后，我们可以使用模型进行训练和预测：
# 编译模型
model.compile(optimizer='adam',
loss='sparse_categorical_crossentropy',
metrics=['accuracy'])
# 加载MNIST数据集
mnist = tf.keras.datasets.mnist
(x_train, y_train), (x_test, y_test) = mnist.load_data()
# 归一化输入数据
x_train, x_test = x_train / 255.0, x_test / 255.0
# 训练模型
model.fit(x_train, y_train, epochs=10)
# 评估模型
model.evaluate(x_test, y_test)
在上述代码中，我们使用了adam优化器和稀疏分类交叉熵损失函数进行模型的编译操作。然后，我们加载了MNIST数据集，并对输入数据进行了归一化处理。接着，我们使用.fit()方法对模型进行训练，将训练数据x_train和标签y_train作为输入，设置训练轮数为10。最后，我们使用.evaluate()方法对模型进行评估，将测试数据x_test和标签y_test作为输入，输出模型在测试集上的损失和准确率。
通过以上代码，我们可以使用RandomNormal()初始化器对神经网络的初始权重进行正态分布初始化。这样，模型的权重将按照指定的正态分布进行随机初始化，有助于提高模型的性能和训练效果。