运动捕捉数据分析和可视化的R包

24

我是一个R的新手,很喜欢它,但我惊讶于缺乏用于分析动作捕捉数据的实用包。

最简单的动作捕捉文件只是一张巨大的表格,其中存储了每个记录对象点的“XYZ”坐标,以及每个捕捉帧的数据。我知道我可以在R中找到各种方法和函数来执行复杂操作(如主成分分析),或者为所有点绘制时间序列。但当我寻找能够在统计上教育我如何分析人类运动并提供漂亮的工具箱来可视化数据的示例时,发现R成了一个荒芜之地。另一方面,MATLAB有Motion capture toolboxMoCap Toolbox,尤其是后者有相当不错的选项来绘制和分析动作捕捉数据。但是,说实话,与R相比,MATLAB的可视化引擎相当丑陋。

一些特定请求R动作捕捉包包括:

  • 读取、编辑、可视化和转换mocap数据
  • 运动学和动力学分析
  • 时间序列和主成分分析
  • 数据动画化

我是否忽略了什么(在我的Google搜索中)或者R确实没有适用于动作捕捉的软件包?有人尝试过在R中处理动作捕捉数据吗?能给我一些方向吗?


2
你可能没有错过任何东西。我最喜欢的解决方案 library(sos); findFn("{motion capture}") 没有找到任何有用的东西。这里存在文化问题:使用R可能可以做很酷的事情,但如果所有从事动作捕捉工作的专业人士都在使用MATLAB或Python,那么这就是完成任务的地方。我肯定会看一下Python中已经完成的工作,并查看如何将Python与R进行接口连接,以便进行任何统计分析方面的重要工作,这些工作在R中尚未实现... - Ben Bolker
1
你可以使用“forecast”和“ftsa”软件包进行时间序列和主成分分析。 - power
3个回答

4

2
我使用了rgl包来创建一个从动作手势数据集中生成的动画。虽然这不是一个专门用于手势数据的包,但你可以用它来处理这种数据。
在下面的示例中,我们有8个点的手势数据,分别是:脊柱、肩中心、头部、左肩、左手腕、右肩和右手腕。主体将双手放下,右臂向上运动。
我将数据集限制在6个时间观察(秒)内,否则它会变得太大而无法在此处发布。
原始数据集中的每一行对应一个时间观察,每个身体点的坐标被定义为4组数据(每四列是一个身体点)。因此,在每一行中,我们有“x”、“y”、“z”、“br”表示脊柱,然后是“x”、“y”、“z”、“br”表示肩中心,以此类推。其中,“br”始终为1,以便分离每个身体部位的三个坐标(x,y,z)。
以下是原始(限制)数据集:
DATA.time.obs<-rbind(c(-0.06431,0.101546,2.990067,1,-0.091378,0.165703,3.029513,1,-0.090019,0.518603,3.022399,1,-0.042211,0.687271,2.987086,1,-0.231384,0.419869,2.953286,1,-0.299824,0.173991,2.882627,1,0.063367,0.399478,3.136306,1,0.134907,0.176191,3.159998,1),
                 c(-0.067185,0.102249,2.990185,1,-0.095083,0.166589,3.028688,1,-0.093098,0.519146,3.019775,1,-0.043808,0.687041,2.987671,1,-0.234622,0.417481,2.94581,1,-0.300324,0.169313,2.869782,1,0.056816,0.398384,3.135578,1,0.134536,0.180875,3.162843,1),
                 c(-0.069282,0.102964,2.989943,1,-0.098594,0.167465,3.027638,1,-0.097184,0.52169,3.019556,1,-0.046626,0.695406,2.989244,1,-0.23478,0.417057,2.943475,1,-0.300101,0.168628,2.860515,1,0.053793,0.395444,3.143226,1,0.134175,0.182816,3.172053,1),
                 c(-0.070924,0.102948,2.989369,1,-0.101156,0.167554,3.026474,1,-0.100244,0.522901,3.018919,1,-0.049834,0.696996,2.987933,1,-0.235301,0.416329,2.939331,1,-0.301339,0.170203,2.85497,1,0.04762,0.390872,3.142792,1,0.14041,0.186844,3.182172,1),
                 c(-0.071973,0.103372,2.988788,1,-0.103215,0.16776,3.025409,1,-0.102334,0.52281,3.019341,1,-0.051298,0.697003,2.991192,1,-0.235497,0.414859,2.935161,1,-0.297678,0.15788,2.833734,1,0.045973,0.386249,3.147609,1,0.14408,0.1916,3.204443,1),
                 c(-0.073223,0.104598,2.988132,1,-0.106597,0.168971,3.022554,1,-0.106778,0.522688,3.015138,1,-0.051867,0.697781,2.990767,1,-0.236137,0.414773,2.931317,1,-0.297552,0.153462,2.827027,1,0.039316,0.39146,3.166831,1,0.175061,0.214336,3.207459,1))

对于每个时间点,我们可以创建一个矩阵,其中每一行都是一个身体点,列是坐标:

# Single time point for analysis
time.point<-1
# Number of coordinates
coordinates<-4
# Number of body points
body.points<-dim(DATA.time.obs)[2]/coordinates

# Total time of gesture
total.time<-dim(DATA.time.obs)[1]

# Transform data for a single time. observation into a matrix
DATA.matrix<-matrix(DATA.time.obs[1,],c(body.points,coordinates),byrow = TRUE)
colnames(DATA.matrix)<-c("x","y","z","br")
rownames(DATA.matrix)<-c("hip_center","spine","shoulder_center","head",
                         "left_shoulder","left_wrist","right_shoulder",
                         "right_wrist")

所以,我们在每个时间点都有一个类似这样的矩阵:
                        x        y        z br
hip_center      -0.064310 0.101546 2.990067  1
spine           -0.091378 0.165703 3.029513  1
shoulder_center -0.090019 0.518603 3.022399  1
head            -0.042211 0.687271 2.987086  1
left_shoulder   -0.231384 0.419869 2.953286  1
left_wrist      -0.299824 0.173991 2.882627  1
right_shoulder   0.063367 0.399478 3.136306  1
right_wrist      0.134907 0.176191 3.159998  1

现在我们使用rgl来绘制来自该矩阵的数据:

#install.packages("rgl")
library(rgl)

# INITIAL PLOT

x<-unlist(DATA.matrix[,1])
y<-unlist(DATA.matrix[,2])
z<-unlist(DATA.matrix[,3])

# OPEN A BLANK 3D PLOT AND SET INITIAL NEUTRAL VIEWPOINT
open3d()
rgl.viewpoint(userMatrix=rotationMatrix(0,0,0,0))

# SET FIGURE POSITION
# This is variable. It will depend on your dataset
# I've found that for this specific dataset a rotation
# of -0.7*pi on the Y axis works

# You can also plot and select the best view with
# your mouse. This selected view will be passed on
# to the animation.
U <- par3d("userMatrix")
par3d(userMatrix = rotate3d(U, -0.7*pi, 0,1,0))

# PLOT POINTS
points3d(x=x,y=y,z=z,size=6,col="blue")
text3d(x=x,y=y,z=z,texts=1:8,adj=c(-0.1,1.5),cex=0.8)

# You can also plot each body point name.
# This might be helpful when you don't know the
# initial orientation of your plot

# text3d(x=x,y=y,z=z,texts=rownames(DATA.matrix),
#        cex=0.6,adj=c(-0.1,1.5))

# Based on the plotted figure, connect the line segments
CONNECTOR<-c(1,2,2,3,3,4,3,5,3,7,5,6,7,8)
segments3d(x=x[CONNECTOR],y=y[CONNECTOR],z=z[CONNECTOR],col="red")

然后,我们有这个:

为了创建动画,我们可以把所有这些放到一个函数中,并使用lapply
movement.points<-function(DATA,time.point,CONNECTOR,body.points,coordinates){

  DATA.time<-DATA[time.point,]

  DATA.time<-matrix(DATA.time,c(body.points,coordinates),byrow = TRUE)

  x<-unlist(DATA.time[,1])
  y<-unlist(DATA.time[,2])
  z<-unlist(DATA.time[,3])

  # I used next3d instead of open3d because now I want R to plot 
  # several plots on top of our original, creating the animation

  next3d(reuse=FALSE)
  points3d(x=x,y=y,z=z,size=6,col="blue")
  segments3d(x=c(x,x[CONNECTOR]),y=c(y,y[CONNECTOR]),z=c(z,z[CONNECTOR]),col="red")
# You can control the "velocity" of the animation by changing the 
# parameter below. Smaller = faster
  Sys.sleep(0.5)
}

我知道这个解决方案不太优雅,但它有效。 enter image description here

1
通过快速搜索RSeek,可以得知 R 没有现成的运动捕捉包。看起来您需要为每个函数找到相应的等价物。通用的功能(插值、子集选择、变换/投影、时间序列分析、pca、矩阵分析等)应该不难找到,编写自己的定制函数用于估计瞬时动能等特定任务的过程也是学习的最佳途径!
您可能会发现 plyr 对调整数据非常有用,animation 包对运动可视化也很有帮助。

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接