程序笔记   发布时间:2022-06-07  发布网站:大佬教程  code.js-code.com
大佬教程收集整理的这篇文章主要介绍了python使用pandas实现数据分割实例代码大佬教程大佬觉得挺不错的,现在分享给大家,也给大家做个参考。

本文研究的主要是Python编程通过pandas将数据分割成时间跨度相等的数据块的相关内容,具体如下。

先上数据,有如下dataframe格式的数据,列名分别为date、ip,我需要统计每5s内出现的ip,以及这些ip出现的频数。

@H_301_5@ ip date 0 127.0.0.21 15/Jul/2017:18:22:16 1 127.0.0.13 15/Jul/2017:18:22:16 2 127.0.0.11 15/Jul/2017:18:22:17 3 127.0.0.11 15/Jul/2017:18:22:20 4 127.0.0.21 15/Jul/2017:18:22:21 5 127.0.0.13 15/Jul/2017:18:22:22 6 127.0.0.14 15/Jul/2017:18:26:36 7 127.0.0.16 15/Jul/2017:18:32:15 8 127.0.0.11 15/Jul/2017:18:36:03

在网上找了很久但是没看到python的相关答案,但在stackoverflow找到了R语言的解法,有兴趣可以看看。

受它的启发,我用不太优雅的方式实现了我的需求,有更好解决方法的请不吝赐教:

step1: 将数据中日期格式变为标准格式

#date_ip为我的dataframe数据
date_ip['date'] = pd.to_datetiR_929_11845@e(date_ip['date'],format='%d/%b/%Y:%H:%M:%s')

step2: 将数据的开始时间、结束时间,按5s分割(由于时间段可能不是恰好是5s的倍数,为避免最后一个时间丢失,因此在最后加上5s)

frequency = 5
time_range = pd.date_range(date_ip['date'][0],date_ip['date'][date_ip.shape[0]-1]
    +frequency*Second(),freq='%sS'%frequency)

step3: 将date变为索引

date_ip = date_ip.set_index('date')

step4: 对每个时间段内的数据进行频数计算(由于通过标签切片时会包含头、尾数据,为避免重复计算,因此在尾部减1s)

for i in xrange(0,len(time_rangE)-1):
 print get_frequency(date_ip.loc[time_range[i]:time_range[i+1]-1*Second()])

完整的代码

import pandas as pd
from pandas.tserIEs.offsets import Second
def get_frequency(date_ip):
 ip_frequency = {}
 for i in xrange(0,date_ip.shape[0]):
 ip_frequencY[date_ip['ip'][i]] = ip_frequency.get(date_ip['ip'][i],0) + 1
 return ip_frequency,date_ip.shape[0]

if __name__ == '__main__': 
 date_ip['date'] = pd.to_datetiR_929_11845@e(date_ip['date'],format='%d/%b/%Y:%H:%M:%s')

 frequency = 5
 time_range = pd.date_range(date_ip['date'][0],freq='%sS'%frequency) 
 date_ip = date_ip.set_index('date')
 for i in xrange(0,len(time_rangE) - 1):
 print get_frequency(date_ip.loc[time_range[i]:time_range[i + 1]-1*Second()])

文章开头数据运行结果:

({'127.0.0.21' : 1,'127.0.0.13' : 1,'127.0.0.11' : 2},4)
({'127.0.0.21': 1,'127.0.0.13': 1},2)
({'127.0.0.14': 1},1)
({'127.0.0.16': 1},1)
({'127.0.0.11': 1},1)

总结

以上就是本文关于python使用pandas实现数据分割实例代码的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站其他相关专题,如有不足之处,欢迎留言指出。感谢朋友们对本站的支持!

您可能感兴趣的文章:

  • 用Python的pandas框架操作Excel文件中的数据教程
  • 在Python中利用Pandas库处理大数据的简单介绍
  • Python数据分析之真实IP请求Pandas详解
  • Python数据分析之如何利用pandas查询数据示例代码

大佬总结

以上是大佬教程为你收集整理的python使用pandas实现数据分割实例代码全部内容,希望文章能够帮你解决python使用pandas实现数据分割实例代码所遇到的程序开发问题。

如果觉得大佬教程网站内容还不错,欢迎将大佬教程推荐给程序员好友。

本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ:384754419,请注明来意。