Fine tuned model based on gpt-4o-2024-08-06. chat completions via API hang and timeout after almost 2 minutes. Takes 15 minutes to respond to "hello" from user

Here is the first 2 lines of the training file:

{“messages”: [{“role”:“user”,“content”:[{“type”:“image_url”,“image_url”:{“url”:“http s://example.com/files/88282a28-3915-47b2-98f6-f0681ad47bdd.jpg”}}]},{“role”:“assistant”,“content”:“{\u0022fileName\u0022:\u0022MM10f8c055373b4b32fae382b91e7975b4.jpg\u0022,\u0022codigoDeVerificacion\u0022:\u0022874498\u0022,\u0022codigoMesa\u0022:\u002280281\u0022,\u0022departamento\u0022:\u0022Beni\u0022,\u0022provincia\u0022:\u0022Cercado\u0022,\u0022municipio\u0022:\u0022Trinidad\u0022,\u0022localidad\u0022:\u0022Trinidad\u0022,\u0022recinto\u0022:\u0022U.E. 13 de Abril\u0022,\u0022horaApertura\u0022:\u002208:00\u0022,\u0022horaCierre\u0022:\u002217:00\u0022,\u0022numeroElectoresHabilitados\u0022:220,\u0022numeroPapeletasAnfora\u0022:184,\u0022papeletasNoUtilizadas\u0022:36,\u0022resultadosPresidenciales\u0022:{\u0022creemos\u0022:32,\u0022adn\u0022:0,\u0022masIpsp\u0022:71,\u0022fpv\u0022:1,\u0022panBol\u0022:1,\u0022libre21\u0022:0,\u0022cc\u0022:62,\u0022juntos\u0022:0,\u0022votosValidos\u0022:167,\u0022votosBlancos\u0022:1,\u0022votosNulos\u0022:16},\u0022resultadosDiputados\u0022:{\u0022creemos\u0022:38,\u0022adn\u0022:0,\u0022masIpsp\u0022:64,\u0022fpv\u0022:1,\u0022panBol\u0022:0,\u0022libre21\u0022:0,\u0022cc\u0022:38,\u0022juntos\u0022:0,\u0022votosValidos\u0022:141,\u0022votosBlancos\u0022:19,\u0022votosNulos\u0022:24},\u0022observaciones\u0022:\u0022\u0022,\u0022presidenciaDeMesa\u0022:{\u0022nombre\u0022:\u0022Juan Daniel Ribera Guardia\u0022,\u0022documento\u0022:\u002210797363\u0022},\u0022secretariaDeMesa\u0022:{\u0022nombre\u0022:\u0022Esther T. Quispe Nina\u0022,\u0022documento\u0022:\u00224983510\u0022},\u0022vocal1\u0022:{\u0022nombre\u0022:\u0022Mar\u00EDa Yusara Roca Humaza\u0022,\u0022documento\u0022:\u00227600643\u0022},\u0022vocal2\u0022:null,\u0022vocal3\u0022:null,\u0022vocal4\u0022:null,\u0022delegadoCreemos\u0022:null,\u0022delegadoAdn\u0022:null,\u0022delegadoMas\u0022:{\u0022nombre\u0022:\u0022Lucia Beatriz Vargas P\u00E9rez\u0022,\u0022documento\u0022:\u00224191478\u0022},\u0022delegadoFpv\u0022:null,\u0022delegadoPan\u0022:null,\u0022delegadoLibre21\u0022:null,\u0022delegadoCC\u0022:{\u0022nombre\u0022:\u0022Roni Rojas Cabrera\u0022,\u0022documento\u0022:\u00227636412\u0022}}”}]}
{“messages”: [{“role”:“user”,“content”:[{“type”:“image_url”,“image_url”:{“url”:“http s://example.com/files/20b3700b-da0f-4e65-bd8d-e3e883292ba5.jpg”}}]},{“role”:“assistant”,“content”:“{\u0022fileName\u0022:\u0022MM3fd7b23842e8cfe4d3e8c6a0f2cb5f6a.jpg\u0022,\u0022codigoDeVerificacion\u0022:\u0022928902\u0022,\u0022codigoMesa\u0022:\u002280282\u0022,\u0022departamento\u0022:\u0022Beni\u0022,\u0022provincia\u0022:\u0022Cercado\u0022,\u0022municipio\u0022:\u0022Trinidad\u0022,\u0022localidad\u0022:\u0022Trinidad\u0022,\u0022recinto\u0022:\u0022U.E. 13 de Abril\u0022,\u0022horaApertura\u0022:\u002208:00\u0022,\u0022horaCierre\u0022:\u002217:00\u0022,\u0022numeroElectoresHabilitados\u0022:220,\u0022numeroPapeletasAnfora\u0022:197,\u0022papeletasNoUtilizadas\u0022:23,\u0022resultadosPresidenciales\u0022:{\u0022creemos\u0022:36,\u0022adn\u0022:0,\u0022masIpsp\u0022:59,\u0022fpv\u0022:1,\u0022panBol\u0022:1,\u0022libre21\u0022:0,\u0022cc\u0022:79,\u0022juntos\u0022:0,\u0022votosValidos\u0022:176,\u0022votosBlancos\u0022:7,\u0022votosNulos\u0022:14},\u0022resultadosDiputados\u0022:{\u0022creemos\u0022:49,\u0022adn\u0022:0,\u0022masIpsp\u0022:54,\u0022fpv\u0022:0,\u0022panBol\u0022:0,\u0022libre21\u0022:0,\u0022cc\u0022:49,\u0022juntos\u0022:0,\u0022votosValidos\u0022:152,\u0022votosBlancos\u0022:35,\u0022votosNulos\u0022:10},\u0022observaciones\u0022:\u0022En vista casilla se corrigen errores y se validan las correcciones agregando \u0022corre y vale\u0022.\u0022,\u0022presidenciaDeMesa\u0022:{\u0022nombre\u0022:\u0022Franklin Saavedra Ruiz\u0022,\u0022documento\u0022:\u002212751857\u0022},\u0022secretariaDeMesa\u0022:{\u0022nombre\u0022:\u0022Katerine Rodriguez Merida\u0022,\u0022documento\u0022:\u002210832471\u0022},\u0022vocal1\u0022:{\u0022nombre\u0022:\u0022Miguel Angel Roman Michel\u0022,\u0022documento\u0022:\u00227634567\u0022},\u0022vocal2\u0022:{\u0022nombre\u0022:\u0022Ana Rosas Rojas Robles\u0022,\u0022documento\u0022:\u00225626460\u0022},\u0022vocal3\u0022:{\u0022nombre\u0022:\u0022Yesica Rodriguez Justiniano\u0022,\u0022documento\u0022:\u00227612291\u0022},\u0022vocal4\u0022:null,\u0022delegadoCreemos\u0022:null,\u0022delegadoAdn\u0022:null,\u0022delegadoMas\u0022:{\u0022nombre\u0022:\u0022Orlando Soiz Salcedo\u0022,\u0022documento\u0022:\u00224197753\u0022},\u0022delegadoFpv\u0022:null,\u0022delegadoPan\u0022:null,\u0022delegadoLibre21\u0022:null,\u0022delegadoCC\u0022:{\u0022nombre\u0022:\u0022Mitzi Rojas Cabrera\u0022,\u0022documento\u0022:\u00227635411\u0022}}”}]}
{"mes

The whole training file contains 100 lines similar to the above.

Upon making a request to the completions API using the trained model, I get an HTTP timeout after almost 2 minutes. The model never responds

1 Like