Establishment of reference intervals for kaolin-activated TEG and the STA compact automated analyzer for dogs and coagulation response in a canine model of endotoxemia

Abstract

ObjectiveThe first part of the study included method validation(intra-assay-repeatability, impact of hemolysis and lipaemia, effect of anticoagulant) and evaluation of reference intervals for dogs for kaolin-activated thromboelastography (TEG® 5000 Thrombelastograph, Haemonetics Corporation; formerly Haemoscope Corporation; Braintree, MA, USA) and the automated coagulation analyzer STA Compact (STA Compact®, Roche Diagnostics GmbH, Mannheim, Germany). In a second part of the study, the response of the coagulation system in a canine model of endotoxemia was evaluated. Material and MethodsBefore the establishment of reference intervals, repeatability and interferences were assessed. Investigated variables included the TEG values R, K, alpha, MA and G as well and the coagulation variables one stage prothrombin time (OSPT), activated partial thromboplastin time (aPTT), thrombin time (TT), fibrinogen, Factor VIII (FVIII), antithrombin (AT), protein C (PC), protein S (PS), resistance against activated protein C (APC-ratio), plasminogen, D-dimer, anti-FXa run on the coagulation analyzer STA Compact. Intra-assay repeatability for TEG variables was performed in 6 healthy dogs with duplicate measurements. The standard deviation required for calculation of the coefficient of variation (CV) was consistent with the root of the pooled variance estimate. The comparison between TEG results obtained with native whole blood or citrated whole blood was performed in 16 healthy dogs. For assessment of hemolysis on TEG results,17 healthy dogs were included. Hemolytic samples were prepared with two techniques: mechanical stress (HM) and as well as freeze and thawing (HF).The intra-assay repeatability for variables assayed with the STA Compact was assessed with 15 replicate measurements in a sample taken from one healthy dog. The intra-assay variation was estimated for variables mentioned above. To assess the influence of lipemia on measurements run on the STA Compact analyzer, samples with three grades of lipemia were prepared by adding Liquigen® (Liquigen®, Pfrimmer Nutricia GmbH, Erlangen, Germany) to the samples of three healthy dogs. The effect of hemolysis on these coagulation parameters was performed by treating whole blood in afreeze-thaw cycle and three grades of hemolysis were obtained.Establishment of reference intervals for TEG parameters and coagulation parameters measured on the STA Compact was performed with 56 healthy dogs. After evaluating the default settings of human assays applied on the STA Compact for canine specimens, some modifications of the test methods were needed. A standard curve has to be prepared with canine pooled plasma for PC, PS and FVIII. Also for both analyzer measurements the impact of sex on the results was established. In the second part of this investigation, the impact of endotoxemia on primary, secondary and tertiary hemostasis as well as TEG variables was evaluated in 10 healthy Mongrel dogs. A control group (n=5 dogs) and a treatment group (n=5 dogs) was created. Dogs in the treatment group received endotoxin (LPS) dissolved in sterile saline 0.9% which was administered intravenously at a dosage of 0.02 mg/kg. The control group received 0.2 ml/kg sterile saline 0.9%. Venous blood samples were collected before application of LPS or placebo (0 hour), 1, 4 and 24 hours after treatment.StatisticsResults were analyzed with the Graph Pad Prism (Graph Pad Software, San Diego, USA), Analyse-it Method evaluation (Analyse-it Method validation Edition version 2.12 - © 1997-2008, Analyse-it Software Ltd.) and BMDP statistical software (BMDP Statitical software Inc., 1440 sepulveda Blvd, Los Angeles, CA 90025 USA). Intra-assay variation for TEG variables was assessed by calculating the arithmetic mean and the pooled variance estimate, based on the differences in the duplicate determinations. For variables measured on the STA compact fifteen-run intra-assay repeatability for normal values was calculated from a sample of a healthy dog. The effect of anticoagulant and interferences was assessed by a paired t-test (or Wilcoxin signed rank sum test). For the establishment of the reference intervals, an Anderson Darling test was performed to verify the assumption of normality. In case of normal and log normal distribution of data, double sided reference intervals were obtained by calculating the mean±1.96 SD (standard deviation) so that 95% of the reference population wasincluded. If non-normal distribution of data was present, the non-parametric percentile method was applied. The 2.5 and 97.5 percentiles were calculated to obtain the 95% double sided reference interval. Data were depicted as histograms with the reference interval as well as the 90% confidence interval of the upper and lower reference limits. The influence of sex on the reference intervals was assessed by using an unpaired t-test or a comparable non-parametric test (Mann Whitney U test).The differences between control group and endotoxin treatment group were assessed with a two way analysis of varience and covariance with repeated measures.ResultsIntra-assay CVs for R; K; alpha; MA and G were 7.6%; 17.7%; 7.4%; 2.9% and 6.6% respectivley. Samples with hemolysis resulted in a significantlydecreased R value and decreased MA, G and alpha; value (P<0.001 to <0.0001). Furthermore, a significantly high K value was seen compared to the control group (P<0.01). There was no significant impact of anticoagulant on TEG variables.Inter-individual variation was higher in native samples than in citrated whole blood. Intra-assay CVs for the coagulation parameters OSPT, aPTT, TT, fibrinogen, FVIII, AT, PC, PS, APC-ratio, plasminogen, D-dimer and anti-FXa were 1.22%, 1.02%, 1.64%, 5.6%, 3.89%, 4.68%, 2.36%, 1.4%, 1.45%, 20.16%, 45.92% and 12.83%. FVIII-activity, antithrombin, proteinC, protein S, and APC-ratio were overestimated in haemolytic plasma, whereas fibrinogen, TT, and aPTT were underestimated. Lipemia resulted only in false high D-dimers.Reference intervals for the kaolin activated TEG were as follows: R=1.8-8,6min.; angle alpha=36.9-74.6 degrees; K=1.3-5.7 min.; MA=42.9-67.9 mm and G=3.2-9.6 Kdyn/cm2.Reference intervals for the STA Compact automated analyzer were as follows: OSPT=5.7-8.0 sec.; aPTT=10.0-14.3 sec.; TT=11.9-18.3 sec.; fibrinogen=1.3-3.1 g/l; AT=107.9-128.0 %; D-dimer=0.023-0.65 µg/ml; anti-FXa=0.04-0.26 IU/L; APC-ratio=2.0-3.0; PC=74.4-160.5 %; PS=75.5-118.9 % and FVIII=70.9-136.4 %. The results for PC, PS and FVIII have to be compared to a canine standard curve. There was no significant impact of sex on results of both analyzers. Second part of the study: The endotoxin-induced clinical signs included lethargy (n=5/5), diarrhea (n=4/5), vomitus (n=4/5) and abdominal pain (2/5). Regarding the evaluation of the impact of endotoxin on the coagulation process severe leukopenia (mean 2.5±0.7×109/l; P<.0001) and a significiant 2.2-fold increase in D-dimers (P=0.001) were observed at time point 1 hour. At time point 4 hours, a significant raise in body temperature (P=0.0006) and in OSPT (P=0.0042) was seen as well as a significant decrease in fibrinogen (P=0.0007), protein C (P=0.0021) and protein S (P=0.008). PLTs (P=.0284) and antithrombin (P=.0170) were lowest at time point 24 hours. TEG variables did not significantly differ between the groups. APC-ratio was higher in the sepsis group (P=0.0348), however, remained within the reference interval in 4/5 dogs.ConclusionThe data provided useful reference ranges for kaolin-activated TEG and for the STA Compact automated analyser but some human tests (e.g., Protein C, protein S and factor VIII) have to be modified. Regarding the impact of endotoxemia on the hemostatic system, the earliest indicator of sepsis-associated coagulation abnormalities were D-dimers which were followed by increased OSPT and decreased protein C. APC-ratio and TEG variables were not considered to be good screening variables in early sepsis/endotoxemia. Ziel der StudieDas Ziel des ersten Teils der Studie war die Methodenevaluation (inklusive intra-assay Wiederholbarkeit, Einfluss von Hämolyse, Lipämie und Antikoagulant) sowie die Referenzwertbestimmung für Hunde für kaolin-aktivierte Thrombelastographie (TEG® 5000 Thrombelastograph, Haemonetics Corporation; formerly Haemoscope Corporation; Braintree, MA, USA) und das automatisierte Gerinnungsanalysegerät STA Compact (STA Compact®, Roche Diagnostics GmbH, Mannheim, Germany).Im zweiten Teil der Studie soll der Einfluss von Endotoxämie auf den Gerinnungsprozess bei einem Hunde-Endotoxinmodell untersucht werden. Material und MethodenVor der Etablierung der Referenzwerte wurden die Wiederholbarkeit und Interferenzen auf die Untersuchungen durchgeführt. Die evaluierten Gerinnungsparameter umfassten die TEG Parameter R, K, alpha, MA und G sowie die Koagulationsparameter Prothrombinzeit (PT), aktivierte partielle Thromboplastinzeit (aPTT), Thrombinzeit (TT), Fibrinogen, Faktor VIII (FVIII), antithrombin (AT), Protein C (PC), Protein S (PS), Resistenz gegen aktiviertes Protein C (APC-ratio), Plasminogen, D-dimer und anti-FXa, die am STA Compact gemessen wurden. Die Wiederholbarkeit für die TEG-Parameter wurde mit Doppelmessungen bei 6 Hunden durchgeführt. Die Standardabweichung, die für die Berechnung des CV erforderlich war, war mit der Wurzel der gepoolten Varianz übereinstimmend. Der Vergleich von TEG Ergebnissen mit nativem und Zitrat antikoaguliertem Vollblut wurde bei 16 gesunden Hunden durchgeführt. Für die Beurteilung der Hämolyse auf TEG Ergebnisse wurden 17 gesunde Hunde eingeschlossen. Hämolytische Proben wurden mit zwei Verfahren hergestellt: mechanischer Stress (HM) und sowie Einfrieren und Auftauen (HF).Die intra-assay Wiederholbarkeit für die am STA Compact gemessenen Parameter wurde bei einer von einem gesunden Hund entnommenen Probe mit 15 Wiederholungsmessungen durchgeführt. Um den Einfluss von Lipämie auf die Resultate der Messungen beim STA Compact zu bestimmen, wurden drei verschiedene Grade von Lipämie vorbereitet, indem Liquigen® (Liquigen®, Pfrimmer Nutricia GmbH, Erlangen, Germany) in die Proben gemischt wurde. Die Auswirkungen von 3 verschiedenen Stufen von Hämolyse auf die Gerinnungsparameter wurde durch Gefrieren/Auftauen von Vollblut untersucht. Die Referenzwertbestimmung für die TEG Parameter und die am STA Compact gemessenen Gerinnungsparameter wurde mit 56 gesunden Hunden durchgeführt. Die ersten Untersuchungen zeigten, dass einige humane Gerinnungstests für die Anwendung für Hundeblutproben modifiziert werden mussten. So war für PC, PS und FVIII die Etablierung einer Standardkurve mit Hundepoolplasma notwendig. Weiterhin wurde das Vorhandensein möglicher geschlechtsabhängiger Unterschiede der Referenzwerte untersucht.. Die Auswirkung der Endotoxämie auf pimäre, sekundäre und tertiäre Hämostase sowie TEG Werte wurden bei 10 gesunden Mischlingshunden ausgewertet. Eine Kontrollgruppe (n=5 Hunde) und eine Behandlungsgruppe (n=5 Hunde) wurde untersucht. Die Hunde in der Behandlungsgruppe erhielten in 0,9% sterile Kochsalzlösung gelöstes Endotoxin (LPS) intravenös in einer Dosis von 0,02 mg/kg injiziert. Die Kontrollgruppe erhielt eine intravenöse Injektion von 0,2 ml/kg 0,9% steriler Kochsalzlösung. Venöse Blutproben wurden vor der LPS- oder Placebo-Applikation (0 Stunde), sowie 1., 4. und 24. Stunden nach der Behandlung entnommen.StatistikDie Ergebnisse wurden mit dem Graphpad Prism (Graph Pad Software, San Diego, USA), Analyse-it Methoden Bewertung (Analyse-it Method validation Edition version 2.12 - © 1997-2008, Analyse-it Software Ltd.) und BMDP Statistik Software (BMDP Statitical software Inc., 1440 sepulveda Blvd, Los Angeles, CA 90025 USA) analysiert.Die Intra-Assay-Varianz (Variationskoeffizient, CV) wurde für die am STA Compact gemessenen Parameter mittels Berechnung des arithmetrischen Mittelwertes und der Standardabweichung bestimmt. Für die TEG Parameter erfolgte die Berechnung durch eine Schätzung der gepoolten Varianz basierend auf den Unterschieden von Doppelbestimmungen. Die Wirkung von Antikoagulanz und Interferenzen auf die Messergebnisse wurde mit Hilfe eines gepaarten T-tests (oder Wilcoxin signed rank sum Tests) beurteilt. Für die Bestimmung der Referenzwerte und der Überprüfung der Normalverteilung wurde ein Anderson Darling Test durchgeführt. Beim Vorliegen einer Normalverteilung oder logarithmischer Normalverteilung der Daten, wurden doppelseitig Referenzbereiche durch Berechnung der mittleren ±0,96 SD (Standardabweichung) berechnet, so dass 95% der Referenzpopulation einbezogen wurde. Lagen nicht-normal verteilte Daten vor, wurde die nicht-parametrische Perzentil-Methode angewendet; hier erfolgte eine Berechnung der 2,5 und 97,5 Perzentile, um das 95% doppelseitige Referenz-Intervall zu erhalten. Die Daten wurden als Histogramme mit dem Referenz-Intervall und den 90%-Konfidenzintervalle der oberen und unteren Referenzgrenzen dargestellt. Der Einfluss des Geschlechts auf die Referenzintervalle wurde mittels eines ungepaarten t-Test oder einem vergleichbaren nicht-parametrischen Test (Mann-Whitney-U-Test) beurteilt.Im zweiten Teil der Studie wurden die Unterschiede zwischen der Kontrollgruppe und der mit Endotoxin behandelten Gruppe mittels einer zweifaktoriellen Analyse von Varianz und Kovarianz und Messwiederholung untersucht.ErgebnisseFür die TEG Parameter R; K; alpha; MA und G konnten die folgenden Variationskoeffizienten von7.6%; 17.7%; 7.4%; 2.9% und 6.6% festgestellt werden. Proben mit Hämolyse führten zu einem signifikant erniedrigten R, MA, G und alpha Wert (P<0.001 bis P>0.0001). Darüber hinaus konnte ein signifikant höherer K Wert im Vergleich zur Kontrollgruppe festgestellt werden (P<0.01). Es war kein signifikanter Einfluss des Antikoagulanzes auf die TEG-Ergebnisse nachweisbar, jedoch war die interindividuelle Variationin nativen Proben höher als im Zitratblut. Die Intra-Assay CVs für die Gerinnungsparameter PT, aPTT, TT, Fibrinogen, FVIII, AT, PC, PS, APC-ratio, Plasminogen, D-dimer und Anti-FXa waren 1.22%, 1.02%, 1.64%, 5.6%, 3.89%, 4.68%, 2.36%, 1.4%, 1.45%, 20.16%, 45.92% und 12.83%. Die FVIII-Aktivität, Antithrombin, PC, PS und APC-ratio wurdenin hämolytischem Plasma falsch hoch gemessen, während Fibrinogen, TT und aPTT falsch niedrig waren. Lipämie führte lediglich zu falsch hohen D-dimer Werten.Folgende Referenzbereiche konnten für das Kaolin aktivierte TEG etabliert werden: R=1.8-8,6min.; alpha=36.9-74.6 Grad; K=1.3-5.7 min.; MA=42.9-67.9 mm und G=3.2-9.6 Kdyn/cm2. Für die am STA Compact gemessenen Parameter wurden folgende Referenzbereicheerstellt: OSPT=5.7-8.0 sek.; aPTT=10.0-14.3 sek.; TT=11.9-18.3 sek.; Fibrinogen=1.3-3.1 g/l; AT=107.9-128.0 %; D-dimer=0.023-0.65 µg/ml; anti-FXa=0.04-0.26 IU/l; APC-ratio=2.0-3.0; PC=74.4-160.5 %; PS=75.5-118.9 % und FVIII=70.9-136.4 %. Die Ergebnisse für PC, PS und FVIII mussten dabei jeweils mit einer Hunde-Standardkurve verglichen werden. Es gab keinen signifikanten Einfluss auf die Ergebnisse der beiden Analysatoren. Zweiter Teil der Studie: Die endotoxin-induzierten klinische Symptome umfassten Lethargie (n=5/5), Durchfall (n=5/4), Erbrechen (n=5/4) und Bauchschmerzen (n=2/5). Eine Stunde nach der Injektion von Endotoxin konnte eine hochgradige Leukopenie (Mittelwert 2.5±0.7×109/L; P<0.0001) und ein signifikanter 2.2-fach Anstieg der D-dimere (P=0.001) beobachtet werden. Zum Zeitpunkt 4. Stunden war eine deutliche Erhöhung der Körpertemperatur (P=0.0006) und der PT (P=0.0042) sowie ein signifikanter Abfall der Fibrinogen Plasmakonzentration (P=0.0007), des PC (P=0.0021) und des PS (P=0.008)nachweisbar . PLTs (P=o.0284) und AT (P=0.0170) waren am niedrigsten zum Zeitpunkt 24 Stunden. Die TEG Parameter unterschieden sich nicht signifikant zwischen den Gruppen. Die APC-ratio war höher in der Endotoxin-Gruppe (P=o.0348), blieb jedoch innerhalb des Referenz-Intervalls bei 4/5 Hunden. SchlussfolgerungInsgesamt konnten nützliche Referenzwerte für das kaolin-aktivierte TEG und das automatische Gerinnungsanalysegerät STA Compactetabliert werden, jedoch mussten einigehumane Testmethoden (Protein C, Protein S und Factor VIII) zuvor für den Hund modifiziert werden. Die Untersuchung des Einflusses von Endotoxämie auf die Gerinnung zeigte, dass erhöhte D-Dimere der früheste Indikator für Endotoxämie sind, denen später eine Verlängerung der PT und ein Absinken von Protein C folgt. Die APC-ratio und TEG Parameter waren in der aktuellen Studie keine gute Indikatoren für das Erkennen einer frühen Sepsis/Endotoxämie.