在TensorFlow中构建神经网络是机器学习初学者和专家都需要掌握的基本技能。本文将详细介绍如何使用TensorFlow创建一个简单的两层神经网络，用于拟合一个二次函数的数据。
我们来理解神经网络的基本结构。神经网络由输入层、隐藏层（可选多个）和输出层组成。每个层都包含若干个神经元，每个神经元都有自己的权重和偏置。数据从输入层传递到隐藏层，然后到输出层，每经过一层，都会进行激活函数的转换。在这个例子中，我们将使用ReLU作为隐藏层的激活函数，而对于输出层，由于我们要做回归任务，通常不使用激活函数。
1. **添加一层网络**：
我们定义了一个`add_layer`函数来创建新的神经网络层。这个函数接收输入数据、输入层的大小、输出层的大小以及可选的激活函数。权重`Weights`和偏置`biases`都是TensorFlow的变量，它们会在训练过程中更新。乘法的顺序很重要，确保了输入`inputs`和权重`Weights`的正确匹配。
2. **创建数据**：
我们使用numpy生成了300个位于-1到1之间的等差数列点`x_data`，并添加了一些随机噪声形成`y_data`。这样生成的数据集模拟了带有噪声的二次函数曲线。
3. **添加占位符**：
在TensorFlow中，占位符`placeholder`用于在运行会话时输入数据。`xs`和`ys`分别代表输入特征和目标值，它们都是浮点数类型的张量，其中`None`表示这一维度的长度可以在运行时决定。
4. **添加隐藏层和输出层**：
使用`add_layer`函数，我们添加了一个隐藏层`l1`，它有10个神经元，激活函数为ReLU。接着，我们添加了一个输出层，它直接预测目标值，没有激活函数。
5. **计算误差和优化**：
我们使用均方误差（MSE）来衡量预测值和真实值之间的差距，`tf.reduce_mean`和`tf.reduce_sum`用于计算平均误差。然后，我们利用梯度下降优化器`tf.train.GradientDescentOptimizer`来最小化损失。这里的步长（learning rate）设置为0.1。
6. **完整代码**：
整个过程的完整代码包含了上述所有步骤，它定义了神经网络的结构，设置了损失函数，选择了优化算法，并创建了占位符以输入数据。
总结来说，创建一个简单的神经网络涉及定义网络结构、准备数据、设置损失函数和优化方法。在TensorFlow中，这些都可以通过定义操作图和运行会话来实现。通过不断迭代，神经网络将逐渐调整权重和偏置，以更好地拟合给定的数据。这个过程是机器学习的核心，也是TensorFlow这样的深度学习库的强项。对于初学者，理解这些基本概念和步骤至关重要。
