【DiVoMiner®】有最好用的编码员间信度测试系统,不信?马上试一下!



  • 如果您遇到了以下问题,一定要坚持看到后面小编给大家的安利!

    对信度测试整个的流程把控不熟。
    已经熟练信度测试,
    但觉得整个操作过程繁琐,
    尤其是整理编码员的编码结果,逐一计算。
    对于测试的编码结果检查更是耗时耗力。
    怎么办?

    带大家回顾一下信度测试的基本流程
    信度测试流程.jpg
    本文内容主要介绍
    如何进行计算信度系数?
    了解一下基本的信度系数计算方法
    (此处不用着急记笔记,坚持看到最后)

    当有两位编码员时,我们如何计算两位编码员之间的信度?

    ★方法一:

    每两位同学登录同样的内容,然后依以下步骤进行信度计算:
    1.
    登录的内容总件数:X
    2.
    统计两位同学相同答案所占的比率:Po
    3.
    计算各个答案所占的比率:a%,b%,c%,d%
    4.
    将(3)的比率平方,然后加总 :(a%)2+(b%)2+(c%)2+(d%)2=Pe
    5.
    代入以下公式计算出最终结果即可。

    94b8da40-059a-4d8e-a40e-1310d282962a-image.png
    Po: 实际一致性
    Pe: 期望一致性
    Pi: 信度系数
    ★方法二:

    6b6c6b79-466c-4117-a569-8534a5274680-image.png
    R: 相互同意度
    M: 两位编码员编码结果相同的次数
    N1: 第一位编码员编码的次数
    N2: 第二位编码员编码的次数

    当有多位编码员时,我们需要计算复合信度:
    2f11ddf9-2452-4c8d-8359-35082dd68158-image.png

    CR:复合信度
    n:编码人员数目
    R为方法二求得

    大家可以找到两位或多位编码员将信度测试的编码结果代入到以上的公式中进行计算。

    除了这样手动计算信度系数外,逐渐出现了一些用于计算信度系数的工具。
    有哪些工具可以帮我们计算信度?

    ★专门软件和小程序


    比较早期的是1984年的AGREE,用来计算Cohen's kappa的付费软件。

    还有专门计算Krippendorff's alpha的Krippendorff's alpha 3.12a。

    较新的是可以处理多位编码员并可计算多种信度指标的PRAM,包括Percent agreement、Holsti’s reliability、Scott’s pi等。

    网页版小程序ReCal,可在网页上直接在线计算信度,处理多位编码员,仅支持上传CSV和TSV文档,一次只能计算一个题目的结果。

    ★统计分析工具

    因信度是数据分析和文本分析过程中不可缺少的一环,因而一些统计软件中往往会嵌入信度分析的功能,如在SPSS统计分析软件中,可以計算Cohen's kappa,在信度计算的环节,对表格的形式有一定的要求。

    其他软件,如Simstat、QDA Miner v1.1等都自带了信度计算的功能,可下载体验。

    总结一下:

    以上的工具都是在信度测试过程中,计算信度结果时发挥作用的。那么,是否有个工具可以让我们进行信度测试的整个流程呢?
    现在小编来回答开头提到的关于信度的疑问

    不要担心,这些问题都可以在DiVoMiner®上逐一解决!

    重点来了!

    DiVoMiner®上的信度测试功能为大家提供了从信度测试的准备工作开始到信度测试完成的整个流程,确保大家在平台上可以逐步进行信度测试,直至完成整个测试流程,而且每一个步骤都是透明可追踪的。不论您是第一次做信度测试,还是已经熟练了整个测试流程,都可以让您方便快捷地完成。
    注:如需计算多位编码员的信度系数,请将免费学习版升级至研究版。

    第一步:建立测试库。

    【编码库】-【随机导入到测试库】,即可完成测试库的建立。

    也可以选中某一条数据,点击数据右侧的【测试库】单独导入到测试库。

    进入到【测试库】查看已导入用以进行信度测试的数据。

    3cb9ed46-9b8b-4fc8-b4a3-6f839f102671-image.png
    第二步:做测试编码。

    所有编码员进入到【信度测试】-【编码测试】中,阅读文本,填写页面右侧的编码簿,点击【保存】完成编码。
    7cc46923-b45f-410f-8f68-91c3cd5561e7-image.png
    第三步:与其说计算信度系数,
    不如说查看信度系数。

    因为在我们完成编码后,信度结果即可实时查看了!

    待所有编码员完成测试编码后,在【信度计算】中,选择编码员和信度指标,点击【计算】,得到信度结果。目前平台上提供了四种常用的信度指标,大家可任意使用哟~
    121d525a-c931-4686-93a7-371054e4b425-image.png

    第四步:编码校正

    【编码跟踪】中便捷查询编码员的测试编码情况,看到编码差异,方便矫正。
    afff969f-b8c8-45c7-b113-698c2b5db1fb-image.png
    如编码员之间信度达到合理水平,则可以进入正式编码。如系数不佳,则需要重复多次测试编码,直到信度系数达致可信水平。

    小提示

    针对信度系数较低的题目,需对编码员进行重新的培训和指导,重新进行信度测试。

    重建测试库的方法是,在【测试库】中【清空测试库】,测试库中的所有内容编码结果将随之全部清空。重新在【编码库】建立测试库,各编码员在新的测试库中重新进行独立的编码。

    efcfa985-5696-4ab8-b9d6-0cf7c3458266-image.png

    赶快来在你的研究项目中,加入编码员,开始信度测试吧!


登录后回复
 

Copyright © 2019 Zhuhai Hengqin BoYi Data Technology Co. Ltd. 珠海横琴博易数据技术有限公司 版权所有 粵ICP备17160897号-2