tensorflow是什么(关于tensorflow程序中什么计算使用cpu,什么计算使用gpu)
本文目录
关于tensorflow程序中什么计算使用cpu,什么计算使用gpu
Tensorflow顾名思义是处理张量计算,实际主要以浮点矩阵加乘运算为主,这样的运算模型肯定是simt架构的gpu更有优势,比如1000美元的1080ti,浮点计算能力能达到10tflops, 而同价位的cpu,浮点计算能力差不多只有它的十分之一不到。
当然,这并不说明gpu比cpu好,两个芯片的设计目的不同,cpu强于分支处理,更适合人机交互应用,gpu强于大批量运算,适合科学计算。
TensorFlow掌握到什么程度,可以在简历上面写熟悉TensorFlow
嗯。。。这种问题,如果有应用过TensorFlow做大规模分布式机器学习系统的话,那么已经可以算作熟悉TensorFlow了。当然如果要检验是否熟悉Tensorflow,那么可以用下面这些标准大概确认下自己的熟悉程度,当然同时也可以用来查缺补漏。
Tensorflow基础知识点
计算图
在Tensorflow中,经常提及到计算图的概念,那什么是计算图呢?它实质上是一个全局数据结构:计算图是一个有向图,捕获有关计算方法的指令。我们来看看简单的计算图形成,通过以下代码,我们可以生成2+3的步骤,但是只包含计算步骤,不包含结果,至少目前还没实现。
会话
会话的概念就是将计算图生成的步骤逐一执行,处理内存分配和优化,使我们能够实际执行由图形指定的计算。例如以下代码:
占位符和 feed_dict
占位符是一种用于接受外部输入的节点,而feed_dict 属性是为了给占位符提供实质的数值。
变量共享
你可能会碰到带有变量共享的 Tensorflow 代码,代码有它们的作用域,并设置“reuse=True”。我强烈建议你不要在代码中使用变量共享。如果你想在多个地方使用单个变量,只需要使用指向该变量节点的指针,并在需要时使用它。换句话说,对于打算保存在内存中的每个参数,应该只调用一次 tf.get_variable()。
优化器
在深度学习中,典型的“内循环”训练如下:
获取输入和 true_output;
根据输入和参数计算出一个“猜测”;
根据猜测和 true_output 之间的差异计算出一个“损失”;
根据损失的梯度更新参数。
优化器的作用在于对于找到的每个变量节点,它计算与损失相关的变量梯度。然后,它为该变量计算新值:当前值减去梯度乘以学习率。最后,它执行一个赋值操作来更新变量的值。
用 tf.Print 进行调试
一般来说,检查计算图中发生了什么是很困难的。你不能使用常规的 Python 打印语句,因为你永远无法访问到要打印的值,这时候就需要用tf.Print。
常用模型的Tensorflow实现
对于这一块内容,最好自己用编程语言实现过一遍,考验深度学习基础功底。
卷积网络(Convolutional Network)
循环神经网络(LSTM)(Recurrent Neural Network (LSTM))
受限玻尔兹曼机(Restricted Boltzmann Machine)
深度信念网络(Deep Belief Network)
作为RBM堆叠的深度自编码器(Deep Autoencoder as stack of RBMs)
去噪自编码器(Denoising Autoencoder)
堆叠的去噪自编码器(Stacked Denoising Autoencoder)
作为去噪自编码器堆叠的深度自编码器(Deep Autoencoder as stack of Denoising Autoencoders)
多层感知器(MultiLayer Perceptron)
Logistic 回归
TensorFlow的交叉熵函数
交叉熵(Cross Entropy)是Loss函数的一种(也称为损失函数或代价函数),用于描述模型预测值与真实值的差距大小,常见的Loss函数就是均方平方差(Mean Squared Error)。
交叉熵具体定义如下:
TensorFlow针对分类问题,实现了四个交叉熵函数,分别是tf.nn.sigmoid_cross_entropy_with_logits
tf.nn.softmax_cross_entropy_with_logits
tf.nn.sparse_softmax_cross_entropy_with_logits
tf.nn.weighted_cross_entropy_with_logits
我会在这里发布所有与科技、科学有关的有趣文章,欢迎订阅我的头条号。偶尔也回答有趣的问题,有问题可随时在评论区回复和讨论。
(码字不易,若文章对你帮助可点赞支持~)
更多文章:

空心小鲸鱼符号(qq分组符号 鲸鱼图案 要符号组成的 谢谢啦!!!!!!!!!!!!)
2025年4月2日 00:50

mysql管理工具怎么使用(如何进入MySQL的命令行管理工具)
2025年4月4日 23:20

服务器安全狗防护验证页面(手机UC浏览器一直跳到服务器安全狗防护页面怎么办)
2025年3月22日 06:50

contains翻译成中文(contain 翻译成中文是什么)
2025年2月12日 02:00

mysql limit 1(mysql 使用limit怎么得到第1条到剩余条的记录,网上查了limit 1, -1没办法通过)
2025年3月13日 05:40

editorial assessment(投稿2个月,状态还是Editorial assessment,怎么办)
2025年2月9日 21:20

缺少对象代码0(为什么我的QQ空间总是打不开,但是其他网页都没问题..总是说网页错误,缺少对象之类,代码为0的..)
2025年2月27日 07:00