Translate text but output is cut in the middle?

API
1

Hello - i try to translate a text using the API and the following code-part:

        resp = openai.ChatCompletion.create(
          model = "gpt-3.5-turbo",
          messages=[{"role": "user", "content": wText}],
          request_timeout = 60, 
          temperature = 0.5,
        )

The input-Text / wText looks like that:

Translate the following Hebraic text to English: 
[1/7/23, 11:34:41 PM] קו הישועות -  עד אליך!: ‎Messages and calls are end-to-end encrypted. No one ou
tside of this chat, not even WhatsApp, can read or listen to them.
[1/7/23, 11:34:41 PM] Tehila Israel: ‎Tehila Israel was added
[12/31/22, 12:25:11 PM] Tehila Israel: שבוע טוב נשים יקרות והאהובות!🌸

*מצורף סיפורי ישועות של חברות הקבוצה*❤️

*וכן הלכה בשמירת הלשון*
*רואים ישועות מעל הטבע תשמעו ותתברכו*

לעילוי נשמת אימי יהודית בת ר׳ יוסף ע״ה
וסבתי בתיה בת ר׳ חיים משה ע״ה

*שמיעת ההקלטה לנשים בלבד*
‎[12/31/22, 12:25:25 PM] Tehila Israel: ‎audio omitted
‎[12/31/22, 12:30:50 PM] Tehila Israel: ‎audio omitted
‎[12/31/22, 12:42:14 PM] Tehila Israel: ‎audio omitted
[1/1/23, 1:54:23 AM] Tehila Israel: *בוקר טוב נשים יקרות  ואהובות*🤗🤗❤️❤️
*הקו הזה קדוש ומקודש כמו בית המקדש*
תדענה שמישהו למעלה בטוח אוהב אתכן ובחר בכן דווקא להיות מחוברות לקו הזה,  כי על ידי החיבור הזה יוכל להוריד לכן שפע גדול מלמעלה
🤍🤍🤍
תתחברו ותנשמו ☺️
♡ כל פעם לאחר שאת מאזינה לסיפור שנשלח כאן, תבקשי בקשה מבורא עולם, במחשבה או בדיבור
♡ ראיתי ושמעתי על אינספור סיפורים וישועות מעל הטבע למי שהתמידה ושמעה למשך 40 יום, ישועות בכל התחומים 💜 רק תבקשו!

מצורפת הלכה בשמירת הלשון🤐
*רואים ישועות מעל הטבע-תשמעו ותתברכו*
*באהבת חינם בעין טובה ובלשון טובה ננצח*🫶🫶🫶
*שמיעת ההקלטה לנשים בלבד*

But the output is get cutted at a specific plase it seems as you can see here:

[1/7/23, 11:34:41 PM] Salvation Line - To You!: Messages and calls are end-to-end encrypted. No one outside of this chat, not even WhatsApp, can read or listen to them.
[1/7/23, 11:34:41 PM] Tehila Israel: Tehila Israel was added
[12/31/22, 12:25:11 PM] Tehila Israel: Good week, dear and beloved women! 🌸

*Attached are stories of salvation from group members* ❤️

*And also the law of guarding the tongue*
*See salvations beyond nature, hear and be blessed*

For the elevation of the souls of my mother Yehudit bat R' Yosef, may he rest in peace,
And my grandmother Batya bat R' Chaim Moshe, may he rest in peace.

*Listening to the recording for women only*
[12/31/22, 12:25:25 PM] Tehila Israel: audio omitted
[12/31/22, 12:30:50 PM] Tehila Israel: audio omitted
[12/31/22, 12:42:14

Why is the output here cuttte suddenly?

2

Hi,

For translations I tend to use a very low temperature, give it a try with a temperature of 0

But you also have a timeout of 60 seconds in your function call, that 60 seconds is for the entire call by the looks of it, so you’d need to increase that value to avoid chopping the end off like that.

3

or pip install --upgrade openai, and then the problem with the timeout working is solved.

The timeout setting would not just end output, it throws an error.

If the text is pretty long, you may need to upgrade to gpt-3.5-turbo-16k model, which has four times the I/O ability for language.

4

Does the updated timeout functionality not timeout after 60 seconds of duration any longer? I thought it did, so if the if the OP does both things, i.e. the update and the increased timeout, then that should fix it.

5

OpenAI committed a change to use a different http method which doesn’t directly support timeout (but can close connections). Setting a parameter directly on the library still works though.

6

Thanks a lot for your replies - i think the overall tokens were simply too much when i splitted the text in 750 word chunks -
With gpt-3.5-turbo-16k it is working now
And when i reduce the chunk to 500 words it also works with gpt-3.5-turbo

1 Like