忘记密码   免费注册 查看新帖 | 论坛精华区

ChinaUnix.net

  平台 论坛 博客 认证专区 大话IT 视频 徽章 文库 沙龙 自测 下载 频道自动化运维 虚拟化 储存备份 C/C++ PHP MySQL 嵌入式 Linux系统
最近访问板块 发新帖
查看: 320 | 回复: 0

学习笔记TF009:对数几率回归 [复制链接]

论坛徽章:
0
发表于 2017-05-16 01:40 |显示全部楼层
logistic函数,也称sigmoid函数,概率分布函数。给定特定输入,计算输出"success"的概率,对回题回答"Yes"的概率。接受单个输入。多维数据或训练集样本特征,可以用线性回归模型表达式合并成单值。

损失函数可以使用平方误差。训练集"Yes"代表100%概率或输出值1的概率。损失刻画特定样本模型分配小于1值概率。"No"概率值0。损失是模型分配样本概率值并取平方。平方误差惩罚与损失同数量级情形。输出与期望相差太远,交叉熵(cross entropy)输出更大值(惩罚)。模型期望输出"Yes"样本预测概率接近0时,罚项值增长到接近无穷大。训练完,模型不可能做出这样的错误预测。TensorFlow提供单个优化步骤sigmoid输出计算交叉熵。

信息论,符号字符串每个字符出现概率已知,用香农熵估计字符串每个符号编码所需平均最小位数。符号编码,如果假设其他概率非真实概率,符号编码长度更大。交叉熵以次优编码方案计算同字符串编码平均最小位数。损失函数期望输出概率分布,实际值100%和0,将自定概率作为模型计算输出。sigmoid函数输出概率值。当真实概率等于自定概率,交叉熵值最小。交叉熵越接近熵,自定概率是真实概率更好逼近。模型输出与期望输出越接近,交叉熵越小。

从csv文件读取数据,加载解析,创建批次读取张量多行数据,提升推断计算效率。tf.decode_csv() Op将字符串(文本行)转换到指定默认值张量列元组,为每列设置数据类型。读取文件,加载张量batch_size行。属性数据(categorical data),推断模型需要把字符串特征转换为数值型特征。每个属性特征扩展为N维布尔型特征,每个可能取值对应一维。具备属性相应维度取值1。模型对每个可能取值独立加权。单个变量表示只可能两种值属性。所有特征排列矩阵,矩阵转置,每行一样本,每列一特征。输入,调用read_csv,转换读取数据,tf.equal方法检查属性值与常量值是否相等,tf.to_float方法将布尔值转换成数值。tf.stack方法打包所有布尔值进单个张量。

训练,度量准确率,正确预测样本总数占全部样本比例。样本输出大于0.5转换为正回答。tf.equal比较预测结果与实际值是否相等。tf.reduce_mean统计所有正确预测样本数,除以批次样本总数,得到正确预测百分比。


  1.     import tensorflow as tf
  2.     import os
  3.     #参数变量初始化
  4.     W = tf.Variable(tf.zeros([5, 1]), name="weights")#变量权值
  5.     b = tf.Variable(0., name="bias")#线性函数常量,模型偏置
  6.     def combine_inputs(X):#输入值合并
  7.         print "function: combine_inputs"
  8.         return tf.matmul(X, W) + b
  9.     def inference(X):#计算返回推断模型输出(数据X)
  10.         print "function: inference"
  11.         return tf.sigmoid(combine_inputs(X))#调用概率分布函数
  12.     def loss(X, Y):#计算损失(训练数据X及期望输出Y)
  13.         print "function: loss"
  14.         return tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(logits=combine_inputs(X), labels=Y))#求平均值
  15.     def read_csv(batch_size, file_name, record_defaults):#从csv文件读取数据,加载解析,创建批次读取张量多行数据
  16.         filename_queue = tf.train.string_input_producer([os.path.join(os.getcwd(), file_name)])
  17.         reader = tf.TextLineReader(skip_header_lines=1)
  18.         key, value = reader.read(filename_queue)
  19.         decoded = tf.decode_csv(value, record_defaults=record_defaults)#字符串(文本行)转换到指定默认值张量列元组,为每列设置数据类型
  20.         return tf.train.shuffle_batch(decoded, batch_size=batch_size, capacity=batch_size * 50, min_after_dequeue=batch_size)#读取文件,加载张量batch_size行
  21.     def inputs():#读取或生成训练数据X及期望输出Y
  22.         print "function: inputs"
  23.         #数据来源:https://www.kaggle.com/c/titanic/data
  24.         #模型依据乘客年龄、性别、船票等级推断是否能够幸存
  25.         passenger_id, survived, pclass, name, sex, age, sibsp, parch, ticket, fare, cabin, embarked = \
  26.             read_csv(100, "train.csv", [[0.0], [0.0], [0], [""], [""], [0.0], [0.0], [0.0], [""], [0.0], [""], [""]])
  27.         #转换属性数据
  28.         is_first_class = tf.to_float(tf.equal(pclass, [1]))#一等票
  29.         is_second_class = tf.to_float(tf.equal(pclass, [2]))#二等票
  30.         is_third_class = tf.to_float(tf.equal(pclass, [3]))#三等票
  31.         gender = tf.to_float(tf.equal(sex, ["female"]))#性别,男性为0,女性为1
  32.    
  33.         features = tf.transpose(tf.stack([is_first_class, is_second_class, is_third_class, gender, age]))#所有特征排列矩阵,矩阵转置,每行一样本,每列一特征
  34.         survived = tf.reshape(survived, [100, 1])
  35.         return features, survived
  36.     def train(total_loss):#训练或调整模型参数(计算总损失)
  37.         print "function: train"
  38.         learning_rate = 0.01
  39.         return tf.train.GradientDescentOptimizer(learning_rate).minimize(total_loss)
  40.     def evaluate(sess, X, Y):#评估训练模型
  41.         print "function: evaluate"
  42.         predicted = tf.cast(inference(X) > 0.5, tf.float32)#样本输出大于0.5转换为正回答
  43.         print sess.run(tf.reduce_mean(tf.cast(tf.equal(predicted, Y), tf.float32)))#统计所有正确预测样本数,除以批次样本总数,得到正确预测百分比
  44.     #会话对象启动数据流图,搭建流程
  45.     with tf.Session() as sess:
  46.         print "Session: start"
  47.         tf.global_variables_initializer().run()
  48.         X, Y = inputs()
  49.         total_loss = loss(X, Y)
  50.         train_op = train(total_loss)
  51.         coord = tf.train.Coordinator()
  52.         threads = tf.train.start_queue_runners(sess=sess, coord=coord)
  53.         training_steps = 1000#实际训练迭代次数
  54.         for step in range(training_steps):#实际训练闭环
  55.             sess.run([train_op])
  56.             if step % 10 == 0:#查看训练过程损失递减
  57.                 print str(step)+ " loss: ", sess.run([total_loss])
  58.         print str(training_steps) + " final loss: ", sess.run([total_loss])
  59.         evaluate(sess, X, Y)#模型评估
  60.         import time
  61.         time.sleep(5)
  62.         coord.request_stop()
  63.         coord.join(threads)
  64.         sess.close()
复制代码



参考资料:
《面向机器智能的TensorFlow实践》

欢迎加我微信交流:qingxingfengzi
我的微信公众号:qingxingfengzigz
我老婆张幸清的微信公众号:qingqingfeifangz

打赏鼓励一下!
您需要登录后才可以回帖 登录 | 注册

本版积分规则

  

北京皓辰网域网络信息技术有限公司. 版权所有 京ICP证:060528号 北京市公安局海淀分局网监中心备案编号:1101082001
广播电视节目制作经营许可证(京) 字第1234号 中国互联网协会会员  联系我们:
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP