Hola foreros:

El problema en el que necesito un cable es el referente al cálculo de los percentiles 90 y 95 que dan en el Anexo II del Real Decreto 1431/2007 (BOE.es - Documento consolidado BOE-A-2007-18581). Entrando en el sistema de Información Nacional de Aguas de Baño (NÁYADE) y recabando los datos de los análisis de diferentes años, no me salen los cálculos para obtener los percentiles 90 y 95 y obtener el tipo de calidad del agua (insuficiente, suficiente, buena o excelente) en la sumatoria de los datos obtenidos en los últimos 4 años, en el caso de que la playa se haya acogido al artículo 4.4 b del Decreto 2006/7/CE de haber realizado mejoras en el lugar.

Con una gran cantidad de datos de muestreo la fórmula me sirve porque se ajusta al valor arrojado por la fórmula del libreoffice percentil.inc(rango; percentil), pero si una playa se ha acogido a ese artículo de la ley europea hace un reset a los datos, es decir, empieza a contar de cero desde que se acogió a esa excepción, con lo que tengo que trabajar con una cantidad menor de datos y ahí la fórmula dada en el RD se descompensa y da valores imposibles, ya que exceden al valor máximo de los resultados de los análisis.

Ares
FECHA E.C. Enterococo log10 E.C. log10 Entero
[FONT=Liberation Serif]25/09/17[/FONT] [FONT=Liberation Serif]9[/FONT] [FONT=Liberation Serif]10[/FONT] 0,954242509439325 1
[FONT=Liberation Serif]12/09/17[/FONT] [FONT=Liberation Serif]9[/FONT] [FONT=Liberation Serif]9[/FONT] 0,954242509439325 0,954242509439325
[FONT=Liberation Serif]30/08/17[/FONT] [FONT=Liberation Serif]10[/FONT] [FONT=Liberation Serif]9[/FONT] 1 0,954242509439325
[FONT=Liberation Serif]20/08/17[/FONT] [FONT=Liberation Serif]20[/FONT] [FONT=Liberation Serif]53[/FONT] 1,30102999566398 1,72427586960079
[FONT=Liberation Serif]02/08/17[/FONT] [FONT=Liberation Serif]31[/FONT] [FONT=Liberation Serif]9[/FONT] 1,49136169383427 0,954242509439325
[FONT=Liberation Serif]18/07/17[/FONT] [FONT=Liberation Serif]42[/FONT] [FONT=Liberation Serif]10[/FONT] 1,6232492903979 1
[FONT=Liberation Serif]04/07/17[/FONT] [FONT=Liberation Serif]9[/FONT] [FONT=Liberation Serif]9[/FONT] 0,954242509439325 0,954242509439325
[FONT=Liberation Serif]21/06/17[/FONT] [FONT=Liberation Serif]9[/FONT] [FONT=Liberation Serif]10[/FONT] 0,954242509439325 1
[FONT=Liberation Serif]11/06/17[/FONT] [FONT=Liberation Serif]110[/FONT] [FONT=Liberation Serif]75[/FONT] 2,04139268515822 1,8750612633917
[FONT=Liberation Serif]30/05/17[/FONT] [FONT=Liberation Serif]9[/FONT] [FONT=Liberation Serif]9[/FONT] 0,954242509439325 0,954242509439325
[FONT=Liberation Serif]20/09/16[/FONT] [FONT=Liberation Serif]75[/FONT] [FONT=Liberation Serif]9[/FONT] 1,8750612633917 0,954242509439325
[FONT=Liberation Serif]06/09/16[/FONT] [FONT=Liberation Serif]9[/FONT] [FONT=Liberation Serif]9[/FONT] 0,954242509439325 0,954242509439325
[FONT=Liberation Serif]23/08/16[/FONT] [FONT=Liberation Serif]500[/FONT] [FONT=Liberation Serif]10[/FONT] 2,69897000433602 1
[FONT=Liberation Serif]09/08/16[/FONT] [FONT=Liberation Serif]20[/FONT] [FONT=Liberation Serif]9[/FONT] 1,30102999566398 0,954242509439325
[FONT=Liberation Serif]26/07/16[/FONT] [FONT=Liberation Serif]120[/FONT] [FONT=Liberation Serif]20[/FONT] 2,07918124604762 1,30102999566398
[FONT=Liberation Serif]12/07/16[/FONT] [FONT=Liberation Serif]9[/FONT] [FONT=Liberation Serif]64[/FONT] 0,954242509439325 1,80617997398389
[FONT=Liberation Serif]28/06/16[/FONT] [FONT=Liberation Serif]9[/FONT] [FONT=Liberation Serif]9[/FONT] 0,954242509439325 0,954242509439325
[FONT=Liberation Serif]01/06/16[/FONT] [FONT=Liberation Serif]740[/FONT] [FONT=Liberation Serif]270[/FONT] 2,86923171973098 2,43136376415899
[FONT=Liberation Serif]19/05/16[/FONT] [FONT=Liberation Serif]10[/FONT] [FONT=Liberation Serif]10[/FONT] 1 1
[FONT=Liberation Serif]21/09/15[/FONT] [FONT=Liberation Serif]87[/FONT] [FONT=Liberation Serif]53[/FONT] 1,93951925261862 1,72427586960079
[FONT=Liberation Serif]07/09/15[/FONT] [FONT=Liberation Serif]10[/FONT] [FONT=Liberation Serif]9[/FONT] 1 0,954242509439325
[FONT=Liberation Serif]24/08/15[/FONT] [FONT=Liberation Serif]250[/FONT] [FONT=Liberation Serif]120[/FONT] 2,39794000867204 2,07918124604762
[FONT=Liberation Serif]10/08/15[/FONT] [FONT=Liberation Serif]140[/FONT] [FONT=Liberation Serif]9[/FONT] 2,14612803567824 0,954242509439325
[FONT=Liberation Serif]03/08/15[/FONT] [FONT=Liberation Serif]140[/FONT] [FONT=Liberation Serif]20[/FONT] 2,14612803567824 1,30102999566398
[FONT=Liberation Serif]13/07/15[/FONT] [FONT=Liberation Serif]10[/FONT] [FONT=Liberation Serif]10[/FONT] 1 1
[FONT=Liberation Serif]29/06/15[/FONT] [FONT=Liberation Serif]9[/FONT] [FONT=Liberation Serif]9[/FONT] 0,954242509439325 0,954242509439325
[FONT=Liberation Serif]15/06/15[/FONT] [FONT=Liberation Serif]20[/FONT] [FONT=Liberation Serif]9[/FONT] 1,30102999566398 0,954242509439325
[FONT=Liberation Serif]01/06/15[/FONT] [FONT=Liberation Serif]120[/FONT] [FONT=Liberation Serif]9[/FONT] 2,07918124604762 0,954242509439325
[FONT=Liberation Serif] [/FONT]
[FONT=Liberation Serif] [/FONT] media 1,49566489476919 1,20006403965222
[FONT=Liberation Serif] [/FONT] desviacion tip 0,61057370835571 0,42023260982457
[FONT=Liberation Serif] [/FONT]
Pe90=antilog(med+1,282*des) Percentil 90 189,854278571176 54,8027365653792
P95=antilog(med+1,65*des) Percentil 95 318,501523135568 78,2434237414137
Formula libreoffice percentil90 173 67,3
Formula libreoffice percentil95 412,500000000001 104,25

Ares
FECHA E.C. Enterococo log10 E.C.
[FONT=Liberation Serif]25/09/17[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]10[/FONT]
[FONT=Liberation Serif]12/09/17[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]9[/FONT]
[FONT=Liberation Serif]30/08/17[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]9[/FONT]
[FONT=Liberation Serif]20/08/17[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]53[/FONT]
[FONT=Liberation Serif]02/08/17[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]9[/FONT]
[FONT=Liberation Serif]18/07/17[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]10[/FONT]
[FONT=Liberation Serif]04/07/17[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]9[/FONT]
[FONT=Liberation Serif]21/06/17[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]10[/FONT]
[FONT=Liberation Serif]11/06/17[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]75[/FONT]
[FONT=Liberation Serif]30/05/17[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]9[/FONT]
[FONT=Liberation Serif]20/09/16[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]9[/FONT]
[FONT=Liberation Serif]06/09/16[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]9[/FONT]
[FONT=Liberation Serif]23/08/16[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]10[/FONT]
[FONT=Liberation Serif]09/08/16[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]9[/FONT]
[FONT=Liberation Serif]26/07/16[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]20[/FONT]
[FONT=Liberation Serif]12/07/16[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]64[/FONT]
[FONT=Liberation Serif]28/06/16[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]9[/FONT]
[FONT=Liberation Serif]01/06/16[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]270[/FONT]
[FONT=Liberation Serif]19/05/16[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]10[/FONT]
[FONT=Liberation Serif]21/09/15[/FONT] [FONT=Liberation Serif]
[/FONT]
[FONT=Liberation Serif]53[/FONT]
[FONT=Liberation Serif]07/09/15[/FONT] [FONT=Liberation Serif]10[/FONT] [FONT=Liberation Serif]9[/FONT] 1
[FONT=Liberation Serif]24/08/15[/FONT] [FONT=Liberation Serif]250[/FONT] [FONT=Liberation Serif]120[/FONT] 2,39794000867204
[FONT=Liberation Serif]10/08/15[/FONT] [FONT=Liberation Serif]140[/FONT] [FONT=Liberation Serif]9[/FONT] 2,14612803567824
[FONT=Liberation Serif]03/08/15[/FONT] [FONT=Liberation Serif]140[/FONT] [FONT=Liberation Serif]20[/FONT] 2,14612803567824
[FONT=Liberation Serif]13/07/15[/FONT] [FONT=Liberation Serif]10[/FONT] [FONT=Liberation Serif]10[/FONT] 1
[FONT=Liberation Serif]29/06/15[/FONT] [FONT=Liberation Serif]9[/FONT] [FONT=Liberation Serif]9[/FONT] 0,954242509439325
[FONT=Liberation Serif]15/06/15[/FONT] [FONT=Liberation Serif]20[/FONT] [FONT=Liberation Serif]9[/FONT] 1,30102999566398
[FONT=Liberation Serif]01/06/15[/FONT] [FONT=Liberation Serif]120[/FONT] [FONT=Liberation Serif]9[/FONT] 2,07918124604762
[FONT=Liberation Serif] [/FONT]
[FONT=Liberation Serif] [/FONT] media 1,62808122889743
[FONT=Liberation Serif] [/FONT] desviacion tip 0,619090570743848
[FONT=Liberation Serif] [/FONT]
Pe90=antilog(med+1,282*des) Percentil 90 264,092057792737
P95=antilog(med+1,65*des) Percentil 95 446,252508722779
Formula libreoffice percentil90 173
Formula libreoffice percentil95 211,5

En estas dos tablas podéis ver de lo que hablo, en la primera tabla con muchos datos de control ambos valores dan parecido, mientras que al tener pocos la fórmula del RD da unos valores anómales y que se salen de lo normal.

Un saludo.