前端技术
HTML
CSS
Javascript
前端框架和UI库
VUE
ReactJS
AngularJS
JQuery
NodeJS
JSON
Element-UI
Bootstrap
Material UI
服务端和客户端
Java
Python
PHP
Golang
Scala
Kotlin
Groovy
Ruby
Lua
.net
c#
c++
后端WEB和工程框架
SpringBoot
SpringCloud
Struts2
MyBatis
Hibernate
Tornado
Beego
Go-Spring
Go Gin
Go Iris
Dubbo
HessianRPC
Maven
Gradle
数据库
MySQL
Oracle
Mongo
中间件与web容器
Redis
MemCache
Etcd
Cassandra
Kafka
RabbitMQ
RocketMQ
ActiveMQ
Nacos
Consul
Tomcat
Nginx
Netty
大数据技术
Hive
Impala
ClickHouse
DorisDB
Greenplum
PostgreSQL
HBase
Kylin
Hadoop
Apache Pig
ZooKeeper
SeaTunnel
Sqoop
Datax
Flink
Spark
Mahout
数据搜索与日志
ElasticSearch
Apache Lucene
Apache Solr
Kibana
Logstash
数据可视化与OLAP
Apache Atlas
Superset
Saiku
Tesseract
系统与容器
Linux
Shell
Docker
Kubernetes
[Python高效幂运算]的搜索结果
这里是文章列表。热门标签的颜色随机变换,标签颜色没有特殊含义。
点击某个标签可搜索标签相关的文章。
点击某个标签可搜索标签相关的文章。
Spark
...据,还能在内存里直接运算,让处理大数据变得超级顺畅,简直爽翻天!Spark提供了多种API,包括Java、Scala、Python等,非常灵活易用。 2.2 Kafka简介 Kafka,全名Apache Kafka,是一个分布式的消息系统,主要用来处理实时数据流。这个东西特别能扛,能存好多数据,还不容易丢,用来搭建实时的数据流和应用再合适不过了。 2.3 Spark与Kafka集成的优势 - 实时处理:Spark可以实时处理Kafka中的数据。 - 灵活性:Spark支持多种编程语言,Kafka则提供丰富的API接口,两者结合让开发更加灵活。 - 高吞吐量:Spark的并行处理能力和Kafka的高吞吐量相结合,能够高效处理大规模数据流。 3. 实战准备 在开始之前,你需要先准备好环境。确保你的机器上已经安装了Java、Scala以及Spark。说到Kafka,你可以直接下载安装包,或者用Docker容器搞一个本地环境,超级方便!我推荐你用Docker,因为它真的超简单方便,还能随手搞出好几个实例来测试,特别实用。 bash 安装Docker sudo apt-get update sudo apt-get install docker.io 拉取Kafka镜像 docker pull wurstmeister/kafka 启动Kafka容器 docker run -d --name kafka -p 9092:9092 -e KAFKA_ADVERTISED_HOST_NAME=localhost wurstmeister/kafka 4. 集成实战 4.1 创建Kafka主题 首先,我们需要创建一个Kafka主题,以便后续的数据流能够被正确地发送和接收。 bash 进入容器 docker exec -it kafka /bin/bash 创建主题 kafka-topics.sh --create --topic test-topic --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 4.2 发送数据到Kafka 接下来,我们可以编写一个简单的脚本来向Kafka的主题中发送一些数据。这里我们使用Python的kafka-python库来实现。 python from kafka import KafkaProducer producer = KafkaProducer(bootstrap_servers='localhost:9092') for _ in range(10): message = "Hello, Kafka!".encode('utf-8') producer.send('test-topic', value=message) print("Message sent:", message.decode('utf-8')) producer.flush() producer.close() 4.3 使用Spark读取Kafka数据 现在,我们来编写一个Spark程序,用于读取刚才发送到Kafka中的数据。这里我们使用Spark的Structured Streaming API。 scala import org.apache.spark.sql.SparkSession val spark = SparkSession.builder.appName("SparkKafkaIntegration").getOrCreate() val df = spark.readStream .format("kafka") .option("kafka.bootstrap.servers", "localhost:9092") .option("subscribe", "test-topic") .load() val query = df.selectExpr("CAST(value AS STRING)") .writeStream .outputMode("append") .format("console") .start() query.awaitTermination() 这段代码会启动一个Spark应用程序,从Kafka的主题中读取数据,并将其打印到控制台。 4.4 实时处理 接下来,我们可以在Spark中对数据进行实时处理。例如,我们可以统计每秒钟接收到的消息数量。 scala import org.apache.spark.sql.functions._ val countDF = df.selectExpr("CAST(value AS STRING)") .withWatermark("timestamp", "1 minute") .groupBy( window($"timestamp", "1 minute"), $"value" ).count() val query = countDF.writeStream .outputMode("complete") .format("console") .start() query.awaitTermination() 这段代码会在每分钟的时间窗口内统计消息的数量,并将其输出到控制台。 5. 总结与反思 通过这次实战,我们成功地将Spark与Kafka进行了集成,并实现了数据的实时处理。虽然过程中遇到了一些挑战,但最终还是顺利完成了任务。这个经历让我明白,书本上的知识和实际动手做真是两码事。不一次次去试,根本没法真正搞懂怎么用这门技术。希望这次分享对你有所帮助,也期待你在实践中也能有所收获! 如果你有任何问题或想法,欢迎随时交流讨论。
2025-03-08 16:21:01
76
笑傲江湖
Python
在进一步了解Python中列表的属性计算之后,我们还可以探索更多高级且实用的列表操作技巧。例如,Python 3.8引入了一种新的表达式结构——" walrus operator "(:=),它使得在单行代码中计算列表长度、查找元素索引以及执行条件判断更为简洁高效。此外,对于大数据处理或科学计算场景,NumPy库提供的ndarray对象在性能上远超Python原生列表,可以实现快速的矩阵运算和统计分析。 近期,一篇发布于“Real Python”网站的文章深入探讨了如何利用列表推导式(List Comprehensions)和生成器表达式(Generator Expressions)对列表进行复杂操作,如过滤、映射和压缩数据,从而提升代码可读性和运行效率。文章还介绍了functools模块中的reduce函数,用于对列表元素执行累积操作,如求乘积、求序列中最长连续子序列等。 另外,在实际编程实践中,掌握列表的排序、切片、连接、复制等基本操作同样至关重要。例如,使用sorted()函数或列表的sort()方法对列表进行排序;利用切片技术实现列表的部分提取或替换;通过extend()和+运算符完成列表合并等。这些操作不仅能丰富你对Python列表的理解,更能在日常开发任务中助你事半功倍。 总的来说,深入学习和熟练运用Python列表的各种特性与功能,不仅有助于数据分析和处理,更能提升代码编写质量,使程序更加简洁、高效。同时,关注Python社区的最新动态和最佳实践,将能持续拓展你的编程技能边界,紧跟时代发展步伐。
2023-10-05 18:16:18
359
算法侠
JSON
...avaScript、Python、Java等多种编程语言中被广泛应用。例如,在Node.js环境中,JSON与JavaScript无缝对接,极大地简化了数据处理流程。 近期,PHP社区发布了新版本PHP 8.1,对JSON支持进行了进一步优化,引入了新的函数json_serialize以增强序列化功能,并改进了json_decode错误处理机制,使开发者能够更准确地捕获并解决JSON解析问题。同时,PHP官方文档也提供了更多关于如何安全、高效地处理JSON数据的最佳实践指南。 此外,随着RESTful API设计规范的推广,JSON Schema作为一种用于描述JSON数据结构的标准格式,正在逐步成为主流。它允许开发者为JSON数据定义严格的模式约束,从而确保在数据传输过程中满足预设规则,减少因数据格式错误导致的问题。 因此,对于PHP开发者而言,除了掌握基础的JSON编码解码操作之外,了解并紧跟相关领域的最新动态和技术发展,如PHP 8.1对JSON处理的改进以及JSON Schema的应用,无疑将有助于提升开发效率和代码质量,更好地适应现代Web开发的需求。
2023-01-18 13:53:09
461
算法侠
转载文章
...深入理解Lua中三目运算符的用法以及针对nil值处理的技巧后,我们可以进一步探索编程语言中的条件表达式和逻辑控制的多样性和复杂性。近期,Lua 5.4版本发布,其中对布尔逻辑运算符进行了优化,使得程序员在处理可能为nil的变量时拥有更多选择。例如,新增的andthen与orelse运算符可以更直观地实现“短路求值”,避免了类似原始三目运算符可能导致的问题。 此外,对于条件分支的处理,不仅限于Lua,其他如JavaScript、Python等流行语言也有各自的独特机制和最佳实践。比如,JavaScript引入了Optional Chaining(可选链)语法,允许开发者在访问深层嵌套属性时无需担心因中间路径值为null或undefined而导致程序崩溃。 而在编程范式上,函数式编程强调纯函数和不可变数据结构,其条件表达式的处理方式与命令式编程有所不同,例如Haskell中的Maybe Monad或Elixir中的Pattern Matching机制,都为nil或空值提供了优雅且安全的处理方式。 综上所述,深入研究各种编程语言中条件表达式的设计理念与实现机制,不仅可以帮助我们更好地运用Lua中的特殊写法,还能拓宽视野,提升跨语言编程能力,并在实际项目中实现更为健壮高效的代码逻辑。
2023-12-29 14:47:09
241
转载
Python
在深入学习了Python如何实现对一个数的个位、十位和百位等数位进行快速提取后,我们了解到Python强大的数学计算功能在实际应用中的重要性。实际上,这种基础运算能力不仅限于简单数位分离,它在数据分析、人工智能以及网络爬虫等领域有着广泛的应用。 例如,在近日Google发布的TensorFlow 2.x版本中,Python作为其主要编程语言,开发者可以利用Python的高级计算特性与TensorFlow库紧密结合,实现高效率的机器学习模型构建与训练,其中就包含了大量涉及数值处理的操作。同时,Pandas库作为Python数据分析的重要工具,也频繁使用到类似的数学运算来清洗、整理和分析数据集。 此外,Python在网络爬虫领域同样大放异彩,如Scrapy框架中,开发者可通过Python灵活的数学运算对抓取的大量数字信息进行实时处理和格式转换,从而满足特定的业务需求。 进一步地,对于更复杂的数学问题,例如数值分析、科学计算等,Python有诸如NumPy、SciPy等强大的第三方库支持,它们不仅能高效处理数组和矩阵运算,还能解决线性代数、微积分等问题,展现了Python在数学计算领域的强大实力。 因此,掌握Python的数学计算技巧并结合相关库的运用,将极大地提升我们在数据分析、AI开发以及网络爬虫等现代技术领域的实战能力,为应对复杂多变的数据挑战提供有力的支持。
2023-04-20 12:09:22
42
软件工程师
Python
在深入理解Python编程语言处理正数求和问题后,我们可以进一步探索其在实际应用场景中的价值。近期,数据分析领域的一项实时研究引起了广泛关注:科研人员利用Python进行大规模气象数据处理时,面临了类似的问题。由于原始数据中包含正负数值,研究人员需要快速准确地计算特定参数(如温度增量)的正向变化总和。通过借鉴文中提到的Python正数筛选与累加方法,并结合abs()函数确保结果正确性,成功实现了对复杂数据集的有效分析。 此外,在金融风控领域,Python同样扮演着关键角色。在评估投资组合收益时,分析师需要精确计算正收益部分的累积和,以排除亏损交易的影响。运用文中介绍的条件判断循环结构,结合Python强大的pandas库进行数据清洗和计算,使得复杂的财务数据分析变得更为高效且精准。 更进一步,Python内置函数的强大性和灵活性,不仅体现在abs()这样的数学运算上,还表现在众多其他场景中。例如,Python 3.9版本引入了新特性——":= walrus operator",它可以简化if条件语句内部的赋值操作,使代码更加简洁易读。这一更新对于解决类似本文所述问题的程序编写具有重要意义,让开发者能够更好地应对实际编程挑战,提升代码质量及执行效率。 综上所述,无论是基础的正数求和问题,还是前沿的数据科学、金融分析等领域,Python以其丰富全面的功能和不断优化的语法设计,持续赋能广大开发者实现高效、准确的数据处理与业务逻辑构建。
2023-04-28 23:59:16
1590
软件工程师
Python
Python是一门非常强劲的编程语言,而regex是Python中一个非常实用性强的工具。regex可以让我们更方便地进行字符串的加工和对应。不过,有时候我们会察觉在使用Python的regex时,应用会停滞或者变得非常迟缓。这是何故呢? import re 表达式:对应10个a字符 pattern = "a{10}" 共对应10000个字符串 text = "a" 10 + "\n" + "b" 10 + "\n" text = 5000 print("开始对应...") 对应文本 result = re.findall(pattern, text) print("对应完成,共对应%d个字符串" % len(result)) 让我们看一下上面这段代码。它的作用是对应文本中的10个连续的a字符。在文本中,一共有10000个字符串,我们将这10000个字符串复制了5000遍。也就是说我们要对应的字符串是非常巨大的。 运行这段代码,你会察觉,应用或许会停滞或者运行非常迟缓。这是因为Python的regex引擎在加工大量字符串时,需要进行非常多的运算和判定。如果无约束地对应所有字符串,那么就会导致应用的停滞和迟缓。 那么我们该怎么防止应用的停滞和迟缓呢?其实很简单,我们只需要在regex中添加一些约束条件即可。 import re 表达式:对应10个a字符 pattern = "a{10}" 共对应10000个字符串 text = "a" 10 + "\n" + "b" 10 + "\n" text = 5000 print("开始对应...") 对应文本,只对应前100000个字符 result = re.findall(pattern, text[:100000]) print("对应完成,共对应%d个字符串" % len(result)) 上面这段代码,在对应文本时,我只对应了前100000个字符。这样做的目的就是为了限制regex引擎的运算量。通过添加约束条件,我们可以防止应用的停滞和迟缓。 在使用Python的regex时,一定要注意应用的性能问题。如果regex引擎需要加工大量的字符串,那么一定要添加约束条件,以防止应用的停滞和迟缓。
2023-05-13 20:11:01
259
程序媛
Python
在Python编程中,对正数和负数进行加法运算只是其强大算术功能的一部分。近期,Python社区发布了一项新的PEP(Python Enhancement Proposal)草案,旨在进一步优化数字类型处理性能,并可能引入更高效的新方法以处理大数值的加减运算。例如,对于金融、科学计算等领域,精准且高效的正负数运算至关重要。 与此同时,Python在非数值类型如字符串、列表、元组等上的加法操作也体现了其动态语言特性。在实际开发场景中,开发者可以利用这些灵活的加法规则实现数据拼接、集合合并等功能,极大地提高了开发效率与代码可读性。例如,Facebook的开源库Django就广泛运用了Python的字符串格式化和列表合并机制,从而简化Web开发中的模板渲染逻辑。 此外,深入探讨Python的底层实现原理,我们会发现,无论是整数还是浮点数的加法运算,Python内部都采用了C语言编写的高效算法,确保了计算的准确性和速度。而对于复杂的数据结构,Python通过其内置的方法巧妙地实现了类似“加法”的行为,这是对面向对象编程思想的深刻体现,也是Python设计哲学“简洁即力量”在实践中的应用典范。 总之,Python在正负数加法以及各类数据类型的“加法”操作上展现出了卓越的灵活性与实用性,不断与时俱进的更新也让它持续保持活力,满足广大开发者在不同场景下的需求。建议读者进一步探索Python的相关文档,了解其更多高级特性,并关注Python社区的最新动态,以便更好地掌握这一强大的编程工具。
2023-05-02 19:24:10
336
软件工程师
Docker
...器等专用硬件来满足其运算需求。 以便在Docker中使用图形处理器,首先需要部署兼容图形处理器的Docker运行环境。目前兼容图形处理器的Docker运行环境有两种:Nvidia Docker和Docker with NVIDIA 图形处理器。 其中,Nvidia Docker是官方兼容的插件,它可以让Docker容器调用主机上的NvidiaGPU资源,并通过Nvidia驱动程序在容器中使用图形处理器。它可以与Nvidia驱动程序一起使用,并允许容器直接调用图形处理器,从而提升应用的效能。以下是在Docker容器中使用图形处理器的示例,假定已经部署了Nvidia Docker: 使用nvidia-docker运行容器 nvidia-docker run -it -v /path/to/your/data:/data your_image_name python your_script.py 这里的your_image_name是你所需的容器镜像的名字,/path/to/your/data是主机上数据档案的路径,your_script.py是执行的脚本。 除了Nvidia Docker,Docker with NVIDIA 图形处理器也是一种流行的选择。它是基于Dockers Nvidiasample镜像开发的,可通过Docker Hub获取。以下是在Docker容器中使用图形处理器的示例,假定已经部署了Docker with NVIDIA 图形处理器: 使用docker-with-nvidia-gpu运行容器 nvidia-docker run -v /path/to/your/data:/data -it nvidia/cuda:10.0-base nvidia-smi 这里的 /path/to/your/data是主机上数据档案的路径,nvidia/cuda:10.0-base是Docker Hub中的一个包含CUDA运行环境和Nvidia驱动程序的镜像,nvidia-smi是在容器中运行的Nvidia System Management Interface。 通过上述两种方法,即可在Docker容器中使用图形处理器,提升应用的计算效率。使用Docker来运行应用,可以让我们轻松地在不同的平台上部署和移动应用,而使用图形处理器可以帮助加速应用的计算,提升其效能。
2023-03-21 08:01:33
543
程序媛
Python
一、引言 在Python中,有一个运算符能让我们更轻松地进行幂运算——这就是著名的操作符。在Python里头,有个特牛的本领,它能让我们嗖嗖地完成次方运算,又快又准,真是个不可或缺的好帮手。 二、Python中的次方运算符号 Python中的次方运算符号是双星号()。这个东西运作起来贼简单,首先你得有个基数,就相当于你要开始数数的起点;然后呢,再给个第二个数,这个数就是你的“自乘次数”,说白了就是你要把这个基数连着乘上它自己几次。 三、如何使用运算符 下面是一个简单的例子: python 计算2的3次方 print(2 3) 输出:8 在这个例子中,我们使用了运算符来计算2的3次方,结果为8。 四、深入理解运算符 运算符可以用来处理任意大的数字,而且非常快速。例如,我们可以很容易地计算出一个大整数的阶乘: python 计算10000的阶乘 import math print(math.factorial(10000)) 输出:93326215443944152681699238856266700490715968264381621468592963895217599993229915608941463976156518286253697920827223758251185210916864000000000000000000000000 这个结果相当大,如果使用传统的循环方法去计算,可能会耗费大量的时间和计算资源。但是,拜运算符所赐,我们现在只需要一条代码就能把结果给整出来,这可真是让我们的效率嗖嗖往上涨,没得说! 五、运算符与其他运算符的区别 虽然运算符看起来与运算符很相似,但它们之间有一些重要的区别。首先,咱们要明白,运算符这家伙可不会乱改操作数的类型,它很守规矩。但是呢,当遇到""这个小调皮时,它就会来个小动作,不管两个操作数本来是什么类型,都会先把它们变成浮点数再去进行计算。其次,运算符用于计算幂,而运算符用于计算乘积。 六、总结 总的来说,运算符是Python中一个强大且有用的工具。它可以帮助我们快速高效地进行幂运算,无论是计算大整数的阶乘还是进行其他复杂的数学运算。因此,学习并熟练掌握运算符对于Python程序员来说是非常重要的。
2023-06-01 22:08:13
575
人生如戏-t
Python
一、引言 Python是一种强大的编程语言,其灵活性和易用性使其成为许多开发者的首选工具。然而,在处理浮点数时,我们经常会遇到一个有趣但棘手的问题——如何在保留小数的同时避免精度损失? 二、基本概念 浮点数和舍入误差 首先,我们需要了解什么是浮点数。在计算机科学这门学问里,浮点数可是用来模拟真实世界小数的一种数据表现方式。它呢,一般是由三个部分精巧拼接起来的:一个负责正负号的小家伙叫符号位,一位喜欢用指数形式表达大小的大兄弟叫指数位,还有一位记录具体数值细节的尾数位。例如,3.14159265358979323846可以被表示为3.141592653589793E+00。 然后,让我们了解一下舍入误差。当你在捣鼓浮点数做计算的时候,由于计算机这小子内在的表达方式有限制,就可能会冒出一些微乎其微的小差错,这些小差错就是我们常说的“舍入误差”。 三、解决方法 round()函数和decimal模块 在Python中,我们可以使用内置的round()函数来解决这个问题。round()函数的基本语法是: round(number[, ndigits]) 其中,number是我们想要四舍五入的数字,ndigits是一个可选参数,表示保留的小数位数。 但是,这种方法有一个问题,那就是当ndigits=0时,它会直接将浮点数转换为整数,而不会进行四舍五入。例如,round(3.14159, 0)的结果是3,而不是我们预期的3.1。 如果你需要更精确的控制,那么你可能需要使用decimal模块。decimal模块提供了一种更精确的十进制浮点数数据类型。这个数据类型可厉害了,不仅能hold住无限精度的十进制数,还能随心所欲地调整舍入方式,就像是个超级数学小能手。 例如,你可以使用以下代码来创建一个Decimal对象,并设置它的精度: python from decimal import Decimal 创建一个Decimal对象,精度为5位小数 d = Decimal('3.14159') d = d.quantize(Decimal('.00001')) print(d) 在这个例子中,我们首先导入了decimal模块,然后创建了一个Decimal对象d,精度为5位小数。接着,我们运用一个叫quantize()的函数,把d这个数像咱们平时四舍五入那样,精确到小数点后5位。 四、总结 在Python中保留小数并不是一件容易的事情。我们可以通过round()函数来快速实现简单的四舍五入,但是对于更复杂的需求,我们可能需要使用decimal模块提供的精确计算功能。无论是哪种方法,咱都得记住一个铁律:浮点数的精度是有天花板的,不可能无限精确。所以呢,咱们得尽可能地挑个合适的精度来用,同时也要理解和欣然接受舍入误差这个小调皮的存在哈。
2023-07-31 11:30:58
277
翡翠梦境_t
Python
Python次方如何输入:深入理解与实例解析 1. 引言 Python作为一款强大的高级编程语言,其简洁明了的语法设计深受开发者喜爱。在平常做数学题时,咱们经常会遇到“次方”这个操作,而在Python这个编程语言里头,想要完成次方运算那就更加简单到飞起啦,简直易如反掌!这篇文会手把手带你,用满满当当的代码实例和咱们都能明白的解读,一层层揭开Python次方运算背后的秘密。保准你不仅知道怎么用,更能摸清为啥这样用,让这个看似神秘的玩意儿变得跟咱邻居家的大白话一样亲切易懂。 2. Python中的次方运算符 在Python中,我们使用双星号来表示次方运算。它允许我们将一个数(底数)提升到另一个数(指数)的幂。这种运算符的使用方式既直观又灵活,下面通过一些例子来演示: python 示例1:基本的次方运算 base = 2 底数 exponent = 3 指数 result = base exponent 计算结果 print(result) 输出8,因为2的3次方等于8 示例2:负数次方运算(实际上就是倒数的相应正次方) base = 4 exponent = -2 result = base exponent print(result) 输出0.0625,因为4的-2次方等于1/4² 示例3:浮点数次方运算 base = 2.5 exponent = 3 result = base exponent print(result) 输出15.625,因为2.5的3次方等于15.625 3. 理解Python次方运算的过程 当我们执行 base exponent 这样的次方运算时,Python会根据指数值计算底数相应的幂。这个过程类似于手动重复乘法操作,但由计算机自动高效地完成。例如,在上述示例1中,2 3 实际上是进行了 2 2 2 的运算。这就是Python内部处理次方运算的基本逻辑。 4. Python次方运算的特性探讨 (1)支持小数和负数次方 如前所述,Python的次方运算是非常灵活的,不仅可以对整数进行次方运算,还可以对小数和负数进行次方运算。对于负数次方,Python将其解释为底数的倒数的相应正次方。 (2)运算优先级 在表达式中, 运算符的优先级高于其他算术运算符(如+、-、、/)。这意味着在没有括号的情况下,Python会先计算次方运算再进行其他运算。例如: python a = 3 2 2 结果为12,而不是36 在此例中,Python首先计算 2 2 得到4,然后再与3相乘。 5. 结语 Python中的次方运算为我们提供了便捷高效的幂运算手段,无论是在科学计算、数据分析还是日常编程中都有着广泛的应用。掌握了这个基础知识点,再配上点实战案例的实操经验,咱们就能更接地气地领悟和灵活运用Python那无比强大的功能啦。希望这篇以“Python次方如何输入”为主题的文章能帮助你更好地驾驭Python,享受编程带来的乐趣与挑战!
2023-09-12 16:02:02
130
初心未变
Python
随着Python在编程界地位的日益提升,其应用场景不断拓宽,从数据分析、人工智能到网络爬虫、自动化运维等领域都有广泛的应用。近日,Python 3.10版本正式发布,引入了新语法特性如结构模式匹配(Structural Pattern Matching)和改进版类型提示等,进一步优化了开发体验,提升了代码可读性与简洁性。 此外,全球顶级科技公司纷纷加大对Python的支持力度。例如,Google推出了Colab这一基于云计算的交互式笔记本环境,支持用户直接在浏览器中编写并运行Python代码进行数据科学项目;而微软也在Azure云平台服务中深度集成Python,提供一站式的AI开发解决方案。 对于初学者来说,《Python Crash Course》、《流畅的Python》等经典教材以及在线课程如Coursera上的“Python for Everybody”系列,都是系统学习Python语言及其实战应用的理想资源。同时,开源社区活跃且丰富的库资源也是Python开发者不可忽视的学习宝库,例如NumPy、Pandas用于数据分析,Django、Flask构建Web应用框架等。 值得注意的是,在实际编程实践中,掌握如何运用版本控制工具Git管理Python项目源码,使用Jupyter Notebook或VS Code等高效IDE进行开发调试,以及利用unittest、pytest等单元测试框架保证代码质量,同样是现代Python程序员必备技能的一部分。 总之,随着Python生态系统的持续繁荣和更新迭代,深入理解和掌握这门语言显得尤为重要,而每日坚持学习和实践则有助于快速成长为一名优秀的Python程序员。
2023-06-06 20:35:24
123
键盘勇士
转载文章
...解更多, 请移步python官方文档,或者菜鸟编程 注意: 所有的对字符串的操作都是生成了新的字符串, 而原本的字符串不发生改变 name = "wangcong" print(name[1:3]) 切片操作 print(len(name)) 求字符串的长度 in or not in 判断一个字符是否在字符串中 print('a' in name) 返回布尔值 字符串也可以进行运算 print('' + '') print('' 5) name = 'wangcong' print(name.strip("")) 去除两边的星号 print(name.rstrip("")) 去除右边的星号 print(name.lstrip("")) 去除左边的星号 name = ' wangcong ' print(name.strip()) 默认为去除 空格 \t 换行 name = 'WANGcong' print(name.lower()) 大写字母小写,小写字母不变 print(name.upper()) 小写字母大写,大写字母不变 print(name) 注意看name的值 name = 'wangcong' print(name.startswith('wang')) 判断是否为wang 开头,返回值为布尔值 print(name.endswith('cong')) 判断是否为cong结尾, 返回值为布尔值 print(name) 注意看name的值 format三种用法 people1 = "{} {} {}".format('wangcong',18,'male') people2 = "{0} {1} {2}".format('wangcomg',18,'male') people3 = "{name} {age} {sex}".format(sex='male',name = 'wangcong',age = 18) print(people1,people2,people3) print(name) 注意看name的值 name = 'wang cong' print(name.split()) 默认分隔符为空格,返回值为一个列表 print(name.split('o')) split 可以指定分隔符的位置 demo = 'a/b/c/d/e' print(demo.split('/',1)) ['a', 'b/c/d/e'] print(demo.split('/',2)) ['a', 'b', 'c/d/e'] rsplit 可以指定从右边切分 print(demo.rsplit('/',1)) ['a/b/c/d', 'e'] print(name) 注意看name的值 join 拼接字符串 name = ' ' print(name.join(['wang','cong'])) 必须为可迭代对象 注意join和 + 的不同 name = '' print(name.join(['w','a','n','g'])) wang print(name + 'wang' + 'cong') wangcong print(name) 注意看name的值 replace 字符串替换 name = 'wang ' print(name.replace('','cong')) wang cong 注意这里是全部替换 name = 'wang ' print(name.replace('','cong')) wang congcongcongcongcong print(name) 注意看name的值 find,rfind,index,rindex,count str1 = 'hello world' print(str1.find('l')) 返回第一个'l'的索引值 print(str1.find('b')) 找不到返回-1 print(str1.find('l',3,5)) 顾头不顾尾 rfind:从右边开始查找 index,rindex 同find,rfind 只不过找不到的时候不报错 count :统计字母出现的次数 print(str1.count('l',1,4)) 顾头不顾尾,如果不指定范围则查找所有 一些转义字符 \(在末尾时):续行符 ;\\:反斜杠 \n :换行 ;\t :横向制表符 ;\':单引号;\":双引号 字符串格式化符号 %c:格式化字符以及其ASCII码 print("%c"%89) Y print("%c"%'Y') Y %s:格式化字符串 print("%s" %"wang cong") wang cong %d 格式化整数 number = 87 print("%d" % number) 87 %u 格式化无符号整型 %o 格式化无符号八进制数 print("%o" % number) 1X27:八进制数显示 %x 格式化无符号十六进制数 (小写) number = 15 print("%x" % number) f %X 格式化无符号十六进制数 (大写) print("%X" % number) F 转载于:https://www.cnblogs.com/cong12586/p/11349697.html 本篇文章为转载内容。原文链接:https://blog.csdn.net/weixin_38168760/article/details/102271589。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-05-11 17:43:10
353
转载
Apache Solr
...使用Solr可以更加高效地进行数据处理和分析。这篇文章咱要唠唠如何巧用Solr这个神器,在大数据分析、机器学习还有人工智能领域大显身手,我会拿几个实际的例子,带你见识见识Solr到底有多牛掰! 二、Solr的基础知识 在开始探索Solr的应用之前,我们需要先了解一些基础知识。首先,Solr是一个基于Java的全文搜索引擎,它支持实时索引和查询、分布式部署和扩展、丰富的API接口等特性。其次,Solr的核心部件包括IndexWriter、Analyzer和Searcher,它们分别负责数据的索引、分词和查询。此外,Solr还提供了许多插件,如Tokenizer、Filter和QueryParser等,用户可以根据自己的需求选择合适的插件。 三、Solr在大数据分析中的应用 1. 数据导入和索引构建 Solr提供了一个灵活的数据导入工具——SolrJ,它可以将各种数据源(如CSV、XML、JSON等)转换为Solr所需的格式,并批量导入到Solr中。另外,Solr有个很贴心的功能,那就是支持多种语言的分词器。无论是哪种语言的数据源,你都可以挑选手头最适合的那个分词器去构建索引,就像挑选工具箱中的合适工具来完成一项工作一样方便。例如,如果我们有一个英文文本文件需要导入到Solr中,我们可以使用如下的SolrJ代码: scss SolrInputDocument doc = new SolrInputDocument(); doc.addField("id", "1"); doc.addField("title", "Hello, world!"); doc.addField("content", "This is a test document."); solrClient.add(doc); 2. 数据查询和分析 Solr的查询语句非常强大,支持布尔运算、通配符匹配、范围查询等多种高级查询方式。同时,Solr还支持多种统计和聚合函数,可以帮助我们从大量的数据中提取有用的信息。例如,如果我们想要查询包含关键词“test”的所有文档,我们可以使用如下的Solr查询语句: ruby http://localhost:8983/solr/mycollection/select?q=test 四、Solr在机器学习和人工智能应用中的应用 1. 数据预处理 在机器学习和人工智能应用中,数据预处理是非常重要的一步。Solr为大家准备了一整套超实用的数据处理和清洗法宝,像是过滤器、解析器、处理器这些小能手,它们能够帮咱们把那些原始数据好好地洗洗澡、换换装,变得干净整齐又易于使用。例如,如果我们有一个包含HTML标记的网页文本需要清洗,我们可以使用如下的Solr处理器: javascript 2. 数据挖掘和模型训练 在机器学习和人工智能应用中,数据挖掘和模型训练也是非常关键的步骤。Solr提供了丰富的数据挖掘和机器学习工具,如向量化、聚类、分类和回归等,可以帮助我们从大量的数据中提取有用的特征并建立预测模型。例如,如果我们想要使用SVM算法对数据进行分类,我们可以使用如下的Solr脚本: python 五、结论 Solr作为一款强大的全文搜索引擎,在大数据分析、机器学习和人工智能应用中有着广泛的应用。通过上述的例子,我们可以看到Solr的强大功能和灵活性,无论是数据导入和索引构建,还是数据查询和分析,或者是数据预处理和模型训练,都可以使用Solr轻松实现。所以,在这个大数据横行霸道的时代,不论是公司还是个人,如果你们真心想要在这场竞争中脱颖而出,那么掌握Solr技术绝对是你们必须要跨出的关键一步。就像是拿到通往成功大门的秘密钥匙,可不能小觑!
2023-10-17 18:03:11
536
雪落无痕-t
DorisDB
...储和处理平台必须具备高效的数据写入、查询以及实时分析能力。而DorisDB正是这样一款能完美应对这些挑战的工具。 4. 使用DorisDB构建实时推荐系统的实战 (1)数据实时写入 假设我们正在处理用户点击流数据,以下是一个简单的使用Python通过DorisDB的Java SDK将数据插入到表中的示例: java // 导入相关库 import org.apache.doris.hive.DorisClient; import org.apache.doris.thrift.TStatusCode; // 创建Doris客户端连接 DorisClient client = new DorisClient("FE_HOST", "FE_PORT"); // 准备要插入的数据 String sql = "INSERT INTO recommend_events(user_id, item_id, event_time) VALUES (?, ?, ?)"; List params = Arrays.asList(new Object[]{"user1", "item1", System.currentTimeMillis()}); // 执行插入操作 TStatusCode status = client.executeInsert(sql, params); // 检查执行状态 if (status == TStatusCode.OK) { System.out.println("Data inserted successfully!"); } else { System.out.println("Failed to insert data."); } (2)实时数据分析与推荐生成 利用DorisDB强大的SQL查询能力,我们可以轻松地对用户行为数据进行实时分析。例如,计算用户最近的行为热度以实时更新用户的兴趣标签: sql SELECT user_id, COUNT() as recent_activity FROM recommend_events WHERE event_time > NOW() - INTERVAL '1 HOUR' GROUP BY user_id; 有了这些实时更新的兴趣标签,我们就可以进一步结合协同过滤、深度学习等算法,在DorisDB上直接进行实时推荐结果的生成与计算。 5. 结论与思考 通过上述实例,我们能够深刻体会到DorisDB在构建实时推荐系统过程中的优势。无论是实时的数据写入、嗖嗖快的查询效率,还是那无比灵活的SQL支持,都让DorisDB在实时推荐系统的舞台上简直就像鱼儿游进了水里,畅快淋漓地展现它的实力。然而,选择技术这事儿可不是一次性就完事大吉了。要知道,业务会不断壮大,技术也在日新月异地进步,所以我们得时刻紧跟DorisDB以及其他那些最尖端技术的步伐。我们要持续打磨、优化咱们的实时推荐系统,让它变得更聪明、更精准,这样一来,才能更好地服务于每一位用户,让大家有更棒的体验。 6. 探讨与展望 尽管本文仅展示了DorisDB在实时推荐系统构建中的初步应用,但在实际项目中,可能还会遇到更复杂的问题,比如如何实现冷热数据分离、如何优化查询性能等。这都需要我们在实践中不断探索与尝试。不管怎样,DorisDB这款既强大又好用的实时分析数据库,可真是帮我们敲开了高效、精准实时推荐系统的神奇大门,让一切变得可能。未来,期待更多的开发者和企业能够借助DorisDB的力量,共同推动推荐系统的革新与发展。
2023-05-06 20:26:51
445
人生如戏
转载文章
...中,为了避免因为卷积运算导致输出图像缩小和图像边缘信息丢失,常常采用图像边缘填充技术,即在图像四周边缘填充0,使得卷积运算后图像大小不会缩小,同时也不会丢失边缘和角落的信息。在Python的numpy库中,常常采用numpy.pad()进行填充操作。 val_size = (max(H, W) + 31) // 32 32noisy_im = np.pad(noisy_im,[[0, val_size - H], [0, val_size - W], [0, 0]],'reflect') ‘reflect’, 表示对称填充。 上图转自 http://t.zoukankan.com/shuaishuaidefeizhu-p-14179038.html >>> a = [1, 2, 3, 4, 5]>>> np.pad(a, (2, 3), 'reflect')array([3, 2, 1, 2, 3, 4, 5, 4, 3, 2]) 个人感觉使用reflect操作,而不是之间的填充0是为了在边缘去噪的时候更平滑一些。镜像填充后的图如下: 输入网络后,得到预测结果。最后进行裁剪,得到去噪后的图像。 prediction = prediction[:, :, :H, :W] 本篇文章为转载内容。原文链接:https://blog.csdn.net/qq_42948594/article/details/124712116。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-06-13 14:44:26
128
转载
转载文章
...Numerical Python)是一个开源的Python库,专为数值计算而设计,提供了强大的多维数组对象(类似于矩阵)和各种高级数学函数库。对于机器学习从业者来说,Numpy是实现高效数组操作、执行线性代数运算的核心工具之一,与Scipy、Pandas等库共同构成了Python科学计算的基础生态环境。 Scipy , Scipy(Scientific Python)是一个基于Python的开源科学计算库,包含了许多用于数值计算、优化、插值、积分、统计、信号处理等领域的子模块。在本文中提及的Scipy线性代数部分,它提供了一系列高效的线性代数算法实现,可以作为Numpy的补充,帮助机器学习从业者更好地处理大规模线性代数问题。
2023-11-14 09:21:43
326
转载
转载文章
...中以源码编译方式安装Python3.5.2.tgz,并在Python3中安装flask Web服务器。 (1)编译Python3.5.2.tgz,使得ubuntu12.04也能使用Python3编程环境; 1)安装ssl开发包,pip的运行依赖ssl环境, apt-get install libssl-dev openssl 2)安装sqlite3及其开发包;Python内置sqlite3的库,需要在编译 python前,在系统中安装sqlite的开发包libsqlite3-dev,否则 Python将不支持使用sqlite3数据库功能"import sqlite3" apt-get install sqlite3 libsqlite3-dev 3)安装mysql-client及其开发包,mysql-client为常用数据库客户端, 需要在编译前安装开发包 apt-get install mysql-client libmysqlclient-dev 4)源码编译安装python3.5.2 准备源码到/usr/local目录tar zxfv Python-3.5.2.tgz -C /usr/local 编译 Python3.5.2 cd /usr/local/Python-3.5.2./configuremake make install (2)通过pip3安装flask,使得可以利用flask web服务器技术,为用户提供基于Python3编程语言的Web服务器运行环境。 1)使用pip3安装flask 先安装flask需要的依赖包click,itsdangerous,jinja2,markupSafe,werkzeug pip3 install click==7.0 itsdangerous==1.1.0 jinja2==2.11.1 markupSafe==1.1.1 werkzeug==1.0.0 ,再安装flask: pip3 install flask==1.1.1 2)运行python3,输入import flask,没有报错说明flask安装成功: 本篇文章为转载内容。原文链接:https://blog.csdn.net/codeblank/article/details/124417662。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-12-21 18:00:00
92
转载
转载文章
...统的CAN通信时更加高效(查阅:“Advancements in SocketCAN for Real-time and Secure Automotive Communication”,发布于IEEE Transactions on Intelligent Transportation Systems, 2022年第二季度)。 对于Python环境配置以及多版本共存问题,Python官方社区持续更新其文档以指导开发者正确管理Python版本,尤其是对于需要特定版本进行编译工作的场景,如CanFestival的编译过程所示(链接至Python官网文档:https://docs.python.org/3/using/mac.htmlpython-config)。同时,一篇名为《Python虚拟环境(virtualenv)在嵌入式开发中的实践运用》的技术文章提供了如何在复杂环境中隔离Python环境并确保编译顺利进行的实际案例分析(来源:Embedded Computing Design,2022年春季刊)。 综上所述,延伸阅读材料不仅涵盖了最新技术动态,还通过实际应用场景解读,帮助读者更好地掌握嵌入式开发中源码编译、CAN通信及Python环境管理等关键知识点。
2023-12-12 16:38:10
115
转载
转载文章
... graphviz python-sphinx python-pip 这里指导安装步骤还有sudo pip install sphinxcontrib-doxylink sphinxcontrib-googleanalytics,这个可能是以前的版本需要的依赖的包,但在0.6.3中并不需要,而且装上还会报错(卡在这里好久),因此我们就不装这个。 之后我们进入ndn-cxx 0.6.3的根目录: cd /usr/local/lib/ndn-cxx-0.6.3 接连执行以下命令 sudo ./waf configuresudo ./wafsudo ./waf install 在运行第2个命令的时候,会出现如下结果: 我们这里不用理会(不知道为啥,虽然出了ERROR,但是还是可以运行,可能最后他只是出了个WARNING,而且在过程中,WARNING都是可以忽略的)。等出现如图所示的结果: 我们就可以进行下一步: sudo ldconfig sudo ./waf configure --with-examplessudo ./wafsudo ./waf install 到此,ndn-cxx 0.6.3的环境就装好了。 安装NFD 0.6.3 打开终端,按照以下代码依次输入: sudo apt-get install software-properties-common sudo add-apt-repository ppa:named-data/ppasudo apt-get update sudo apt-get install nfd 原文指导步骤,之后是利用git命令下载ndn-cxx和nfd,因为我们提前下载过了并拷贝进虚拟机,因此,在此忽略该步骤。 sudo apt-get install build-essential pkg-config libboost-all-dev \libsqlite3-dev libssl-dev libpcap-dev sudo apt-get install doxygen graphviz python-sphinx 之后,我们进入nfd 0.6.3根目录: cd /usr/local/lib/nfd-0.6.3 进入root模式,安装一个库(很重要,因为我们不是利用git命令安装,这步必不可少;否则下一步下面会报错中断): sudo sucurl -L https://github.com/zaphoyd/websocketpp/archive/0.7.0.tar.gz > websocket.tar.gztar zxf websocket.tar.gz -C websocketpp/ --strip 1exit 之后,执行以下命令: sudo ./waf configuresudo ./wafsudo ./waf install 同样,过程中出现WARNING不用管。 最后,一定记着执行以下命令: sudo cp /usr/local/etc/ndn/nfd.conf.sample /usr/local/etc/ndn/nfd.conf 这样才能成功开启nfd。 至此,ndn-cxx 0.6.3和nfd 0.6.3全部安装完成。 执行示例程序 打开终端,运行nfd nfd-start(可能需要输入密码) 在ndn-cxx 0.6.3根目录下打开终端,进入examples目录,或者直接在example目录下打开终端(我选择这种方式,因为懒)。 这里,必须先运行producer程序,再运行consumer程序,作为学计算机的,应该不需要解释为啥了吧。 在一个终端下执行producer命令: ./producer 再打开一个终端,执行consumer命令: ./consumer 这时就可以成功看到交互了,但是有点儿问题,consumer会出现warning,如图所示: 这是为啥呢,好像是因为最近的版本,必须为interest报文指定一个默认前缀,为了之后的APP功能设计,详情请看以下链接: http://named-data.net/doc/ndn-cxx/current/doxygen/d1/d81/classndn_1_1Interest.htmla0275843d0eda5134e7fd7e787f972e78 这里我们怎么修改才能让他不显示这个warning呢?按照以下步骤: 进入ndn-cxx 的src目录: cd /usr/local/lib/ndn-cxx-0.6.3/src 修改interest.cpp文件,因为权限设置,我们在root下使用vim命令修改: sudo su(输入密码)vim interest.cpp找到 static bool hasDefaultCanBePrefixWarning = false将false改为true 之后,我们在ndn-cxx 0.6.3目录下再编译运行一下就行了,即: sudo ./waf configure --with-examplessudo ./wafsudo ./waf install 之后再examples目录再执行两个程序,就可以得到结果: 至此环境已经搭好,目前正准备进行后续工作。。。。。 望各位大佬手下留情,转载注明出处,感谢感谢!!!! 本篇文章为转载内容。原文链接:https://blog.csdn.net/silent_time/article/details/84146586。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-03-30 19:22:59
321
转载
转载文章
...0.9.dev0) python(conda) python 3.8.13 local IDE vscode 1. 安装TVM 1.1 下载源码 从github上拉取源码git clone --recursive https://github.com/apache/tvm tvm --recursive指令:由于tvm依赖了很多第三方的开源库(子模块) 加入该参数之后也将相应的子模块一起进行clone 或者直接下载源码https://tvm.apache.org/download 1.2 创建虚拟环境及安装依赖库 使用conda创建tvm的虚拟python环境,python版本为3.8,虚拟环境名为tvmenv: conda create -n tvmenv python=3.8 编辑tvm目录下的conda/build-environment.yaml文件: conda/build-environment.yaml Build environment that can be used to build tvm.name: tvmenv The conda channels to lookup the dependencieschannels:- anaconda- conda-forge 将name的值改为刚刚创建的虚拟环境名tvmenv 执行下面的指令,将构建tvm所需的环境依赖更新到当前虚拟环境中: conda env update -f conda/build-environment.yaml conda env update -n tvmenv -f conda/build-environment.yaml 设置完之后需要重新deactivate/activate对环境进行激活 如果上述命令执行较慢,可以将conda换成国内源(建议使用北京外国语大学的开源镜像站):参考连接 然后修改conda/build-environment.yaml文件: channels:- defaults - anaconda - conda-forge 安装python依赖库: pip install decorator tornado psutil 'xgboost<1.6.0' cloudpickle -i https://pypi.tuna.tsinghua.edu.cn/simple 如果使用onnx或者pytorch作为原始模型,则还需要安装相应的依赖库pip install onnx onnxruntime -i https://pypi.tuna.tsinghua.edu.cn/simplepip install torch==1.7.1 torchvision==0.8.2 torchaudio==0.7.2 -i https://pypi.tuna.tsinghua.edu.cn/simple 在当前虚拟环境中添加用于tvm debug的环境变量: conda env config vars set TVM_LOG_DEBUG="ir/transform.cc=1,relay/ir/transform.cc=1" conda env config vars set TVM_LOG_DEBUG="ir/transform.cc=1,relay/ir/transform.cc=1" -n tvmenv 设置完之后需要重新deactivate/activate对环境进行激活是环境变量生效 使用这种方式设置环境变量的好处是:只有当前环境被激活(conda activate)时,自定义设置的环境变量才起作用,当conda deactivate后自定义的环境变量会自动清除。 当然,也可以更简单粗暴一些: export TVM_LOG_DEBUG="ir/transform.cc=1,relay/ir/transform.cc=1" 在当前虚拟环境中添加用于tvm python的环境变量: export TVM_HOME=your tvm pathexport PYTHONPATH=$TVM_HOME/python:${PYTHONPATH} 1.3 编译TVM源码 如果linux上没有安装C/C++的编译环境,需要进行安装: 更新软件apt-get update 安装apt-get install build-essential 安装cmakeapt-get install cmake 在tvm目录下创建build文件夹,并将cmake/config.cmake文件复制到此文件夹中: mkdir buildcp cmake/config.cmake build/ 编辑build/config.cmake进行相关配置: 本次是在cpu上进行测试,因此没有配置cudaset(USE_LLVM ON) line 136set(USE_RELAY_DEBUG ON) line 285(建议先 OFF) 在末尾添加一个cmake的编译宏,确保编译出来的是debug版本set(CMAKE_BUILD_TYPE Debug) 编译tvm,这里开启了16个线程: cd buildcmake ..make -j 16 建议开多个线程,否则编译速度很慢哦 大约5分钟,即可生成我们需要的两个共享链接库:libtvm.so 和 libtvm_runtime.so 1.4 验证安装是否成功 tvm版本验证: import tvmprint(tvm.__version__) pytorch模型验证: from_pytorch.py https://tvm.apache.org/docs/how_to/compile_models/from_pytorch.html ps: TVM supports PyTorch 1.7 and 1.4. Other versions may be unstable.import tvmfrom tvm import relayfrom tvm.contrib.download import download_testdataimport numpy as np PyTorch importsimport torchimport torchvision Load a pretrained PyTorch model -------------------------------model_name = "resnet18"model = getattr(torchvision.models, model_name)(pretrained=True) or model = torchvision.models.resnet18(pretrained=True) or pth_file = 'resnet18-f37072fd.pth' model = torchvision.models.resnet18() ckpt = torch.load(pth_file) model.load_state_dict(ckpt)model = model.eval() We grab the TorchScripted model via tracinginput_shape = [1, 3, 224, 224]input_data = torch.randn(input_shape)scripted_model = torch.jit.trace(model, input_data).eval() Load a test image ----------------- Classic cat example!from PIL import Image img_url = "https://github.com/dmlc/mxnet.js/blob/main/data/cat.png?raw=true" img_path = download_testdata(img_url, "cat.png", module="data")img_path = 'cat.png'img = Image.open(img_path).resize((224, 224)) Preprocess the image and convert to tensorfrom torchvision import transformsmy_preprocess = transforms.Compose([transforms.Resize(256),transforms.CenterCrop(224),transforms.ToTensor(),transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]),])img = my_preprocess(img)img = np.expand_dims(img, 0) Import the graph to Relay ------------------------- Convert PyTorch graph to Relay graph. The input name can be arbitrary.input_name = "input0"shape_list = [(input_name, img.shape)]mod, params = relay.frontend.from_pytorch(scripted_model, shape_list) Relay Build ----------- Compile the graph to llvm target with given input specification.target = tvm.target.Target("llvm", host="llvm")dev = tvm.cpu(0)with tvm.transform.PassContext(opt_level=3):lib = relay.build(mod, target=target, params=params) Execute the portable graph on TVM --------------------------------- Now we can try deploying the compiled model on target.from tvm.contrib import graph_executordtype = "float32"m = graph_executor.GraphModule(lib["default"](dev)) Set inputsm.set_input(input_name, tvm.nd.array(img.astype(dtype))) Executem.run() Get outputstvm_output = m.get_output(0) Look up synset name ------------------- Look up prediction top 1 index in 1000 class synset. synset_url = "".join( [ "https://raw.githubusercontent.com/Cadene/", "pretrained-models.pytorch/master/data/", "imagenet_synsets.txt", ] ) synset_name = "imagenet_synsets.txt" synset_path = download_testdata(synset_url, synset_name, module="data") https://raw.githubusercontent.com/Cadene/pretrained-models.pytorch/master/data/imagenet_synsets.txtsynset_path = 'imagenet_synsets.txt'with open(synset_path) as f:synsets = f.readlines()synsets = [x.strip() for x in synsets]splits = [line.split(" ") for line in synsets]key_to_classname = {spl[0]: " ".join(spl[1:]) for spl in splits} class_url = "".join( [ "https://raw.githubusercontent.com/Cadene/", "pretrained-models.pytorch/master/data/", "imagenet_classes.txt", ] ) class_name = "imagenet_classes.txt" class_path = download_testdata(class_url, class_name, module="data") https://raw.githubusercontent.com/Cadene/pretrained-models.pytorch/master/data/imagenet_classes.txtclass_path = 'imagenet_classes.txt'with open(class_path) as f:class_id_to_key = f.readlines()class_id_to_key = [x.strip() for x in class_id_to_key] Get top-1 result for TVMtop1_tvm = np.argmax(tvm_output.numpy()[0])tvm_class_key = class_id_to_key[top1_tvm] Convert input to PyTorch variable and get PyTorch result for comparisonwith torch.no_grad():torch_img = torch.from_numpy(img)output = model(torch_img) Get top-1 result for PyTorchtop1_torch = np.argmax(output.numpy())torch_class_key = class_id_to_key[top1_torch]print("Relay top-1 id: {}, class name: {}".format(top1_tvm, key_to_classname[tvm_class_key]))print("Torch top-1 id: {}, class name: {}".format(top1_torch, key_to_classname[torch_class_key])) 2. 配置vscode 安装两个vscode远程连接所需的两个插件,具体如下图所示: 安装完成之后,在左侧工具栏会出现一个图标,点击图标进行ssh配置: ssh yourname@yourip -A 然后右键选择在当前窗口进行连接: 除此之外,还可以设置免费登录,具体可参考这篇文章。 当然,也可以使用windows本地的WSL2,vscode连接WSL还需要安装WSL和Dev Containers这两个插件。 在服务器端执行code .会自动安装vscode server,安装位置在用户的根目录下: 3. 安装FFI Navigator 由于TVM是由Python和C++混合开发,且大多数的IDE仅支持在同一种语言中查找函数定义,因此对于跨语言的FFI 调用,即Python跳转到C++或者C++跳转到Python,vscode是做不到的。虽然解决这个问题在技术上可能非常具有挑战性,但我们可以通过构建一个与FFI注册码模式匹配并恢复必要信息的项目特定分析器来解决这个问题,FFI Navigator就这样诞生了,作者仍然是陈天奇博士。 安装方式如下: 建议使用源码安装git clone https://github.com/tqchen/ffi-navigator.git 安装python依赖cd ffi-navigator/pythonpython setyp.py install vscode需要安装FFI Navigator插件,直接搜索安装即可(安装到服务器端)。 最后需要在.vscode/setting.json进行配置,内容如下: {"python.analysis.extraPaths": ["${workspaceFolder}/python"], // 添加额外导入路径, 告诉pylance自定义的python库在哪里"ffi_navigator.pythonpath": "/home/liyanpeng/anaconda3/envs/tvmenv/bin/python", // 配置FFI Navigator"python.defaultInterpreterPath": "/home/liyanpeng/anaconda3/envs/tvmenv/bin/python","files.associations": {"type_traits": "cpp","fstream": "cpp","thread": "cpp",".tcc": "cpp"} } 更详细内容可以参考项目链接。 结束语 对于vscode的使用技巧及C/C++相关的配置,这里不再详细的介绍了,感兴趣的小伙伴们可以了解下。 本篇文章为转载内容。原文链接:https://blog.csdn.net/qq_42730750/article/details/126723224。 该文由互联网用户投稿提供,文中观点代表作者本人意见,并不代表本站的立场。 作为信息平台,本站仅提供文章转载服务,并不拥有其所有权,也不对文章内容的真实性、准确性和合法性承担责任。 如发现本文存在侵权、违法、违规或事实不符的情况,请及时联系我们,我们将第一时间进行核实并删除相应内容。
2023-12-12 20:04:26
87
转载
站内搜索
用于搜索本网站内部文章,支持栏目切换。
知识学习
实践的时候请根据实际情况谨慎操作。
随机学习一条linux命令:
tar --list -f archive.tar.gz
- 列出归档文件中的内容。
推荐内容
推荐本栏目内的其它文章,看看还有哪些文章让你感兴趣。
2023-04-28
2023-08-09
2023-06-18
2023-04-14
2023-02-18
2023-04-17
2024-01-11
2023-10-03
2023-09-09
2023-06-13
2023-08-07
2023-03-11
历史内容
快速导航到对应月份的历史文章列表。
随便看看
拉到页底了吧,随便看看还有哪些文章你可能感兴趣。
时光飞逝
"流光容易把人抛,红了樱桃,绿了芭蕉。"