19-tensorflow实现线性回归

线性回归

权重与特征相乘的和再加上偏置项。所以线性回归就是找到权重与偏置项的值

算法:线性回归
策略:均方误差
优化:梯度下降

步骤:

  1. 准备好特征与目标值
  2. 建立模型。随机初始化和特征数相同的权重w和一个偏置b,y_predict = wx+b。注意:只要是模型的参数,必须是变量(Variable)
  3. 求损失函数,误差。这里选均方误差,loss = ((y_predict1-y1)^2 +...+ (y_predictn-yn)^2)/特征数
  4. 梯度下降去优化损失过程,指定学习率

api

在这里插入图片描述

梯度下降api:
在这里插入图片描述

**线性回归实现 **

import tensorflow as tf
def myregression():
    """
    自实现一个线性回归预测
    :return: None
    """
    #准备数据
    x = tf.random_normal([100, 1], mean=1.75, stddev=0.5, name="x_data")
    y_true = tf.matmul(x, [[0.7]]) + 0.8 #矩阵相乘必须是2维的

    #建立线回归模型
    weight = tf.Variable(tf.random_normal([1, 1], mean=0.0, stddev=1.0, name="weight"))
    bias = tf.Variable(0.0, name="bias")
    y_predict = tf.matmul(x, weight) + bias

    #建立损失函数,均方误差
    loss = tf.reduce_mean(tf.square(y_predict-y_true)) #reduce_mean是计算平均值

    #梯度下降优化损失
    train_op = tf.train.GradientDescentOptimizer(learning_rate=0.1).minimize(loss) #梯度下降去进行优化,即最小化损失,所以后面加了minimize

    #定义一个初始化变量的op
    init_op = tf.global_variables_initializer()

    #通过会话运行程序
    with tf.Session() as sess:
        #初始化变量
        sess.run(init_op)
        #打印随机初始化的权重和偏置值
        print("随机初始化的参数权重为:\n", weight.eval(), "\n偏置为:\n", bias.eval())
        #运行优化
        #循环训练优化
        for i in range(100):
            sess.run(train_op)
            print("优化",i,"次优化过后的参数权重为:", weight.eval(), " 偏置为:", bias.eval())
    return None

if __name__ == "__main__":
    myregression()
在这里插入图片描述

由于优化次数和学习率(学习的快慢)的原因,这里的结果和正确值之间还存在较大偏差

因为Variable有一个参数trainable,默认为True,即在训练过程中可以被优化(改变),所以通过优化算法进行优化

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 线性回归算法是使用线性方程对数据集拟合得算法,是一个非常常见的回归算法。本章首先从最简单的单变量线性回归算法开始介...
    金字塔下的小蜗牛阅读 2,914评论 0 4
  • https://mp.weixin.qq.com/s/BuHiG9FjX-OiSNWx3KquQQ 17.随机梯度...
    _龙雀阅读 3,803评论 0 4
  • A 准确率(accuracy) 分类模型预测准确的比例。在多类别分类中,准确率定义如下: 在二分类中,准确率定义为...
    630d0109dd74阅读 1,397评论 0 3
  • 本文编译自谷歌开发者机器学习术语表项目,介绍了该项目所有的术语与基本解释。 A 准确率(accuracy) 分类模...
    630d0109dd74阅读 2,052评论 0 1
  • 亲爱的ML: 还好吗?今天是你的生日,特别想在此刻抱抱你。我感受到此刻你很累,很困,很开心,很感慨。感受到你的难受...
    Susie丽阅读 198评论 0 0